AI 규제는 혁신의 적인가, 인간 존엄의 안전벨트인가
레오 14세 교황의 첫 회칙 「Magnifica Humanitas」와 AI 법제의 핵심 쟁점
2026년 5월, 바티칸은 레오 14세 교황의 첫 회칙 「Magnifica Humanitas」 발표를 예고했습니다. 회칙의 주제는 “인공지능 시대 인간 인격의 보호”입니다. 발표 행사는 2026년 5월 25일 오전 11시 30분 바티칸 시노드홀에서 열릴 예정이고, 교황 본인이 참석하는 형식으로 공지되었습니다. 교황청 공보실은 이 회칙이 2026년 5월 15일 서명되었으며, 그날이 레오 13세의 「Rerum Novarum」 반포 135주년이라고 밝혔습니다. 발표자 명단에는 빅토르 마누엘 페르난데스 추기경, 마이클 체르니 추기경, 안나 로울랜즈 교수, 레오카디 루숌보 교수와 함께 Anthropic 공동창업자이자 AI 해석가능성 연구 책임자인 Christopher Olah도 포함되어 있습니다.
이 사건은 단순한 종교 뉴스로 지나가기 어렵습니다. 교황의 첫 회칙은 통상 새 교황이 앞으로 어떤 문제의식을 중심에 둘 것인지 보여주는 문서로 읽힙니다. 그런데 그 첫 문서의 주제가 AI 시대의 인간 인격 보호입니다. 더구나 서명일이 「Rerum Novarum」 135주년과 맞물려 있습니다. 「Rerum Novarum」은 1891년 레오 13세가 발표한 회칙으로, 바티칸 공식 영문본은 이를 “자본과 노동에 관한 회칙”으로 소개합니다. 이 문서는 산업화 시대의 노동계급, 자본과 노동의 권리·의무, 국가와 법의 역할을 다루었습니다.
19세기의 쟁점이 공장, 임금, 노동시간, 자본과 노동의 불균형이었다면, 21세기 AI 시대의 쟁점은 자동화된 판단, 데이터 권력, 알고리즘 감시, 노동 대체, 허위정보, 책임 공백입니다. AI는 사람을 채용할지, 대출을 승인할지, 보험료를 어떻게 산정할지, 어떤 콘텐츠를 노출할지, 어떤 위험 인물로 분류할지에 영향을 줄 수 있습니다. 그러므로 이번 회칙은 “교황이 AI를 언급했다”는 차원을 넘어, 기술 변화 앞에서 인간의 지위와 권리를 어떻게 다시 정리할 것인지 묻는 계기로 볼 수 있습니다.
다만 아직 회칙 전문이 공개되지 않은 단계에서는 구체적인 결론을 단정해서는 안 됩니다. “교황이 특정 국가의 AI 정책을 비판했다”, “특정 기업 편에 섰다”, “어떤 규제 모델을 지지했다”는 식의 표현은 신중해야 합니다. 현재 확인할 수 있는 것은 제목, 주제, 서명일, 발표 일정, 발표자 명단, 그리고 바티칸이 이 문서를 AI 시대 인간 인격 보호와 연결하고 있다는 점입니다. 그 이상은 회칙 전문이 공개된 뒤 문장 단위로 검토해야 합니다.
1. 바티칸은 왜 AI를 인간 존엄의 문제로 보는가
바티칸은 AI를 갑자기 다루기 시작한 것이 아닙니다. 2025년 교황청 신앙교리부와 문화교육부가 발표한 「Antiqua et Nova」는 AI와 인간 지능의 관계를 다루며, AI가 인간의 삶과 사회 구조에 미치는 영향을 폭넓게 검토했습니다. 이 문서는 AI가 의료, 노동, 교육, 커뮤니케이션 등 여러 영역에서 유용하게 쓰일 수 있다고 보면서도, 인간을 수치화된 데이터나 예측값으로 환원할 위험을 지적합니다.
프란치스코 교황도 2024년 G7 AI 세션 연설에서 AI를 강력한 도구로 설명했습니다. 그는 AI가 의료, 노동, 문화, 교육, 정치 등 다양한 영역에 영향을 미칠 것이라고 보면서도, AI가 내리는 선택에 대해 적절한 인간 통제가 필요하다고 말했습니다. 특히 치명적 자율무기와 관련해서는 “어떤 기계도 인간의 생명을 빼앗는 결정을 내려서는 안 된다”는 취지로 발언했습니다.
여기서 중요한 법적 쟁점이 나옵니다. AI가 단순히 추천 음악을 고르거나 문서 초안을 정리하는 수준에 머문다면 위험은 제한적일 수 있습니다. 그러나 채용, 대출, 의료, 교육, 수사, 복지, 선거, 전쟁처럼 사람의 권리와 생계, 자유, 생명에 영향을 주는 영역에서는 사정이 달라집니다. AI의 판단이 틀렸을 때 누가 설명할 것인지, 누구에게 이의를 제기할 수 있는지, 어떤 기록이 남아야 하는지, 최종 책임자는 누구인지가 문제됩니다.
인간 존엄이라는 표현은 종교적·윤리적 언어입니다. 그러나 법의 영역으로 들어오면 더 구체적인 의무로 바뀝니다. AI 사용 사실을 알리는 투명성, 사람이 개입할 수 있는 인간 감독(human oversight), 잘못된 판단에 대한 이의제기 절차, 차별·편향 방지, 개인정보 보호, 학습데이터 관리, 사고 발생 시 책임 귀속 같은 것들입니다. 추상적인 가치가 실제 법제에서는 문서화, 고지, 기록 보존, 위험평가, 내부 통제, 피해구제 절차로 바뀌는 셈입니다.
2. 산업혁명에는 노동 문제가 있었다면, AI 혁명에는 자동화된 판단의 문제가 있다
「Rerum Novarum」이 발표된 19세기 말의 세계는 산업혁명의 충격을 겪고 있었습니다. 기계와 공장이 생산성을 높였지만, 노동자의 삶은 불안정해졌고 자본과 노동 사이의 힘의 차이는 커졌습니다. 그 시기에 노동자의 권리, 임금, 결사의 자유, 국가의 역할을 논의한 것은 단순한 윤리 담론이 아니었습니다. 이후 노동법, 사회보장제도, 산업안전 규범이 발전하는 데 중요한 배경이 되었습니다.
AI 시대에도 비슷한 구조가 있습니다. 기술은 생산성을 높이고 새로운 서비스를 가능하게 합니다. 동시에 사람의 평가와 분류를 자동화합니다. 예컨대 기업은 AI로 이력서를 분류하고, 금융기관은 AI로 신용위험을 산정하며, 플랫폼은 AI로 콘텐츠 노출 순서를 결정합니다. 공공기관이 복지, 세금, 수사, 출입국, 행정처분 영역에서 AI를 활용할 가능성도 커지고 있습니다.
문제는 AI가 항상 명확한 이유를 설명하지 않는다는 점입니다. 사람은 결과를 통보받지만, 그 결과가 어떤 데이터와 기준으로 나왔는지 알기 어려운 경우가 있습니다. 개발사는 모델 구조와 영업비밀을 이유로 자세한 설명을 꺼릴 수 있고, 이용기관은 “시스템이 그렇게 판단했다”고 말할 수 있습니다. 이 지점에서 법은 기술의 성능만이 아니라 절차의 공정성을 다루게 됩니다.
따라서 AI 규제의 핵심은 “AI를 쓸 수 있는가”에만 있지 않습니다. 더 중요한 질문은 “사람에게 중대한 영향을 주는 AI를 쓸 때 어떤 절차와 책임을 갖추어야 하는가”입니다. 특히 채용, 금융, 의료, 교육, 공공서비스처럼 개인의 삶에 직접 영향을 주는 영역에서는 예측 정확도만으로 충분하지 않습니다. 설명 가능성, 이의제기, 차별 방지, 개인정보 보호, 인간의 실질적 감독이 함께 논의되어야 합니다.
3. EU AI Act: 위험기반 규제의 대표 모델
AI 규제를 설명할 때 가장 자주 언급되는 법은 유럽연합의 AI Act입니다. EU 집행위원회는 AI Act가 위험기반 접근(risk-based approach)을 취한다고 설명합니다. AI 시스템을 위험 수준에 따라 나누고, 사람의 안전·생계·권리에 명백한 위협이 되는 일부 AI는 금지하며, 건강·안전·기본권에 중대한 위험을 줄 수 있는 AI는 고위험 AI(high-risk AI)로 분류해 엄격한 의무를 부과합니다.
EU 집행위원회가 예시로 든 고위험 AI에는 교육기관의 시험 채점, 채용 과정의 이력서 분류, 필수 공공·민간 서비스 접근에 영향을 주는 신용평가, 법집행, 이민·국경관리, 사법·민주적 절차에 쓰이는 AI 등이 포함됩니다. 고위험 AI에는 위험평가와 완화, 데이터 품질 관리, 활동 기록, 문서화, 이용자에 대한 정보 제공, 적절한 인간 감독, 견고성·사이버보안·정확성 확보가 요구됩니다.
EU AI Act에서 주목할 또 하나의 축은 투명성입니다. 챗봇처럼 사람이 AI와 상호작용하는 경우 이용자가 기계와 대화하고 있다는 사실을 알 수 있어야 합니다. 생성형 AI가 만든 콘텐츠는 식별 가능해야 하고, 딥페이크나 공적 관심사에 관한 AI 생성 텍스트는 명확한 표시가 요구됩니다. EU 집행위원회는 AI Act의 투명성 규칙이 2026년 8월부터 적용될 예정이라고 설명합니다.
이 모델의 장점은 위험의 크기에 따라 규제 강도를 다르게 설계한다는 점입니다. 모든 AI를 같은 방식으로 규율하면 과잉규제 문제가 생깁니다. 반대로 채용, 대출, 의료, 수사, 선거처럼 고위험 영역을 일반 서비스와 같은 수준으로 두면 피해가 발생했을 때 회복이 어렵습니다. 위험기반 접근은 그 중간 지점을 찾으려는 시도입니다.
4. 한국의 인공지능기본법: 진흥과 신뢰의 동시 과제
한국도 AI 법제의 출발점을 마련했습니다. 국가법령정보센터에 따르면 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」은 2025년 1월 21일 제정되었고, 2026년 1월 22일부터 시행됩니다. 법명에서 보듯이 한국 법제는 AI 산업 발전과 신뢰 기반 조성을 함께 내세우고 있습니다.
한국의 법제는 아직 실제 집행과 하위 규정, 가이드라인을 함께 보아야 합니다. 따라서 “한국은 EU와 같은 강한 규제로 갔다”거나 “규제가 거의 없다”고 단정하기 어렵습니다. 기본법의 성격상 정책 추진, 기본계획, 산업 진흥, 신뢰성 확보, 고영향 AI 관리, 생성형 AI 관련 의무 등이 어떻게 구체화되는지가 중요합니다.
기업 입장에서는 법 시행 자체보다 실무 변화가 더 중요합니다. AI를 어디에 쓰고 있는지, 그 AI가 사람의 권리나 생계에 영향을 주는지, 외부 솔루션을 쓰는 경우 책임은 어떻게 나뉘는지, 이용자에게 어떤 고지를 해야 하는지, 문제가 생겼을 때 어떤 기록을 근거로 설명할 수 있는지 검토해야 합니다.
특히 채용 AI, 신용평가, 보험심사, 의료·헬스케어, 교육 평가, 공공기관의 자동화된 의사결정, CCTV·생체정보 분석, 생성형 AI를 활용한 콘텐츠 제작은 민감한 영역입니다. 성능이 높다는 이유만으로 충분하지 않습니다. 데이터 출처, 편향 가능성, 개인정보 처리 근거, 인간 감독 절차, 내부 승인 체계, 계약상 책임 분배를 함께 봐야 합니다.
5. 미국·중국·유럽평의회: 하나의 세계 규제 모델은 없다
미국은 EU처럼 하나의 포괄적 AI법으로 규제 체계를 정리한 구조가 아닙니다. 2025년 1월 23일 미국 백악관은 “Removing Barriers to American Leadership in Artificial Intelligence”라는 행정명령을 발표했고, 이 명령은 미국의 AI 리더십, 경제 경쟁력, 국가안보를 강조하면서 기존 AI 정책 중 혁신 장벽으로 보는 조치를 재검토하는 방향을 담았습니다.
동시에 미국에는 NIST의 AI 위험관리 프레임워크(AI Risk Management Framework, AI RMF) 같은 자율적 위험관리 도구도 있습니다. NIST는 이 프레임워크가 자발적 사용을 전제로 하며, AI 제품·서비스·시스템의 설계, 개발, 사용, 평가 과정에서 신뢰성 요소를 반영하는 데 도움을 주기 위한 것이라고 설명합니다.
중국은 다른 접근을 취합니다. 중국의 「생성형 인공지능 서비스 관리 잠행방법」은 2023년 8월 15일부터 시행되었고, 생성형 AI 서비스 제공자에게 합법적 출처의 데이터와 기초모델 사용, 지식재산권 보호, 개인정보 처리 근거 확보, 학습데이터 품질 제고 등을 요구합니다. 또한 생성 콘텐츠 표시, 이용자 입력정보와 사용기록 보호, 불법 콘텐츠 발견 시 조치, 신고·불만 처리 체계 등을 규정합니다.
유럽평의회는 AI를 인권·민주주의·법치주의의 관점에서 다룹니다. 유럽평의회는 AI 기본협약을 이 분야 최초의 국제적 법적 구속력 있는 조약으로 설명하며, AI 시스템의 생애주기 전반이 인권, 민주주의, 법치주의와 일치하도록 하는 것을 목표로 한다고 밝힙니다. 이 협약은 인간 존엄, 개인의 자율성, 평등과 차별금지, 개인정보 보호, 투명성과 감독, 책임성, 안전한 혁신을 기본 원칙으로 제시합니다. 또한 영향을 받는 사람이 AI 사용에 관한 정보를 얻고, 결정을 다투며, 권한 있는 기관에 불만을 제기할 수 있어야 한다는 절차적 권리도 강조합니다.
이처럼 세계의 AI 규제는 한 방향으로만 움직이지 않습니다. EU는 위험기반 규제를 제도화했고, 한국은 진흥과 신뢰 기반 조성을 함께 다루는 기본법을 시행합니다. 미국은 연방 차원의 포괄법보다 행정명령, 기관 지침, 자율 프레임워크, 주법이 병존합니다. 중국은 생성형 AI 서비스에 대해 콘텐츠, 국가안보, 개인정보, 지식재산권, 플랫폼 책임을 결합합니다. 유럽평의회는 인권·민주주의·법치주의를 국제 규범의 중심에 둡니다.
6. AI 규제의 핵심 법적 쟁점
AI 규제를 둘러싼 법적 쟁점은 몇 가지로 정리할 수 있습니다.
고위험 AI와 투명성
첫째, 고위험 AI의 범위입니다. 채용, 금융, 의료, 교육, 공공서비스, 수사, 사법, 선거처럼 개인의 기본권과 생활에 큰 영향을 주는 AI를 별도로 관리할 필요가 있는지, 있다면 어느 수준의 의무를 부과할지가 문제됩니다.
둘째, 투명성입니다. 이용자는 자신이 AI와 대화하고 있는지, AI가 만든 콘텐츠를 보고 있는지, 자신의 평가나 분류에 AI가 쓰였는지 알아야 합니다. 딥페이크, 합성 음성, AI 생성 정치 콘텐츠처럼 민주주의와 여론 형성에 영향을 줄 수 있는 영역에서는 표시 의무가 특히 중요합니다.
인간 감독, 차별과 자동화된 의사결정
셋째, 인간 감독입니다. 인간이 단순히 승인 버튼만 누르는 구조라면 실질적 감독이라고 보기 어렵습니다. 사람이 AI의 결과를 이해하고, 필요할 때 중단하거나 수정하고, 이해관계자의 이의제기를 처리할 권한을 가져야 합니다.
넷째, 차별과 편향입니다. AI는 과거 데이터를 학습합니다. 과거의 채용, 대출, 수사, 의료 접근에서 차별이 있었다면 모델도 그 패턴을 반복할 수 있습니다. 피해자는 어떤 기준으로 불이익을 받았는지 알기 어렵고, 기업은 모델의 복잡성을 이유로 설명을 제한하려 할 수 있습니다. 이때 입증책임과 정보 접근권이 쟁점이 됩니다.
다섯째, 자동화된 의사결정입니다. AI가 직접 최종 결정을 내리지 않더라도, 실제 업무 현장에서 AI의 점수나 추천이 사실상 결론을 좌우할 수 있습니다. 이 경우 “사람이 최종 결정을 했다”는 형식보다 AI가 결정 과정에서 어느 정도 비중을 차지했는지 봐야 합니다.
노동, 자율무기, 저작권, 개인정보, 선거
여섯째, 노동시장 영향입니다. AI는 반복 업무를 줄일 수 있지만, 노동자 평가와 감시를 강화할 수도 있습니다. 생산성 측정, 업무 배정, 성과 평가, 해고 대상 선정에 AI가 쓰일 때 노동법, 개인정보보호법, 차별금지 원칙이 함께 문제됩니다.
일곱째, 자율무기입니다. 사람의 생명에 관한 결정을 기계가 내릴 수 있는지는 AI 윤리와 국제법에서 가장 민감한 주제입니다. 프란치스코 교황의 G7 연설도 이 지점을 분명히 짚었습니다.
여덟째, 저작권과 학습데이터입니다. 생성형 AI 모델이 어떤 데이터를 학습했는지, 그 데이터에 저작권이 있는지, 권리자에게 동의나 보상이 필요한지, 학습 결과물이 원저작물과 어느 정도 유사할 때 침해가 되는지 논쟁이 계속되고 있습니다. 이 쟁점은 창작자, 플랫폼, AI 개발사, 이용기업 모두에게 영향을 줍니다.
아홉째, 개인정보와 감시입니다. AI는 대규모 데이터를 필요로 합니다. 생체정보, 위치정보, 행동 데이터, 대화 기록, 구매 기록, 업무 기록이 결합될수록 개인을 세밀하게 예측하고 통제할 수 있습니다. 편리함과 감시 사이의 경계가 흐려지는 영역입니다.
열째, 허위정보와 선거입니다. 생성형 AI는 그럴듯한 문장, 이미지, 영상, 음성을 빠르게 만들 수 있습니다. 선거 기간에 딥페이크 영상이나 조작된 음성이 확산되면 유권자의 판단에 영향을 줄 수 있습니다. 이 영역에서는 표현의 자유, 정치적 의사표현, 허위정보 규제, 플랫폼 책임이 충돌합니다.
7. 규제는 기업에 부담이지만, 예측 가능성을 만들기도 한다
AI 규제를 말할 때 기업의 부담을 빼놓을 수 없습니다. 위험평가, 데이터 관리, 기술문서 작성, 이용자 고지, 생성물 표시, 기록 보존, 내부 승인 절차, 사고 대응 체계, 외부 감사 대응은 모두 비용입니다. 스타트업이나 중소기업에는 상당한 부담이 될 수 있습니다.
그러나 규제가 없거나 기준이 불명확한 경우에도 비용은 생깁니다. 기업은 어떤 기준을 지켜야 하는지 알기 어렵고, 사고가 발생하면 책임 범위를 예측하기 힘듭니다. 이용자는 AI 서비스가 신뢰할 만한지 판단하기 어렵습니다. 공공기관은 도입 후 문제가 발생했을 때 절차적 정당성을 설명해야 합니다.
실무적으로는 다음 항목을 먼저 점검할 필요가 있습니다.
- 회사나 기관이 AI를 어디에 쓰고 있는가
- 해당 AI가 사람의 권리, 생계, 신용, 건강, 교육, 공공서비스 접근에 영향을 주는가
- AI가 최종 결정에 미치는 비중은 어느 정도인가
- 데이터 출처와 개인정보 처리 근거는 정리되어 있는가
- 학습데이터나 출력물에 저작권 문제가 생길 가능성은 있는가
- 이용자에게 AI 사용 사실을 고지해야 하는가
- 사람이 결과를 검토하고 수정할 권한을 실제로 갖고 있는가
- 문제가 생겼을 때 기록과 책임 주체를 확인할 수 있는가
- 외부 AI 솔루션을 쓰는 경우 계약상 책임 분배가 되어 있는가
- 민원, 이의제기, 삭제 요청, 정정 요청을 처리할 절차가 있는가
이런 점검은 법무팀만의 일이 아닙니다. 개발, 기획, 보안, 개인정보, HR, 마케팅, 대외협력, 경영진이 함께 봐야 합니다. AI 리스크는 기술 리스크이면서 동시에 법률 리스크, 평판 리스크, 계약 리스크, 규제 리스크입니다.
8. 인간 존엄은 어떻게 법적 의무가 되는가
“인간 존엄”은 추상적인 말입니다. 법률 문서에서 그 표현만 반복되면 실무자는 무엇을 해야 하는지 알기 어렵습니다. 그래서 이 개념은 구체적인 의무로 번역되어야 합니다.
채용 AI에서는 지원자가 왜 탈락했는지 최소한의 설명을 요구할 수 있어야 합니다. 금융 AI에서는 신용평가나 대출 거절의 주요 근거가 문제됩니다. 의료 AI에서는 의사가 AI 결과를 어떻게 참고했고, 최종 판단을 어떻게 했는지 기록이 중요합니다. 공공기관의 자동화된 결정에서는 처분의 근거, 이의제기 절차, 담당자의 검토 여부가 중요합니다. 생성형 AI 서비스에서는 AI 생성물 표시, 저작권과 개인정보 침해 방지, 허위정보 대응 체계가 필요합니다.
결국 인간 존엄은 다음과 같은 법적 장치로 구현됩니다.
- AI 사용 사실을 알 수 있는 권리
- AI 판단에 대해 설명을 요구할 수 있는 절차
- 오류나 불이익에 이의를 제기할 수 있는 통로
- 차별적 결과를 점검하는 데이터 관리
- 개인정보와 민감정보의 처리 제한
- 사람이 최종적으로 감독하고 책임지는 구조
- 피해가 발생했을 때 책임 주체를 확인할 수 있는 기록
이 장치들이 갖춰지지 않으면 사람은 시스템의 결과를 그대로 받아들여야 합니다. 반대로 이런 장치가 마련되면 AI는 더 넓게 쓰이면서도 신뢰를 얻을 수 있습니다.
9. 이번 회칙을 어떻게 읽어야 하나
「Magnifica Humanitas」는 국가법이 아닙니다. EU AI Act나 한국 인공지능기본법처럼 직접 기업에 의무를 부과하는 법률도 아닙니다. 그러나 이 회칙은 AI 규제 논의에 중요한 질문을 던질 수 있습니다. 기술 발전이 빠르게 진행될수록, 법과 제도는 무엇을 기준으로 삼아야 하는가. 인간을 데이터, 점수, 확률, 예측값으로 다루는 시대에 어떤 영역에는 설명과 책임을 요구해야 하는가.
이 글에서 다룬 법제들은 서로 다릅니다. EU는 위험기반 규제, 한국은 진흥과 신뢰 기반 조성, 미국은 혁신 중심의 행정명령과 자율 프레임워크, 중국은 생성형 AI 서비스 관리와 콘텐츠·데이터 규제, 유럽평의회는 인권·민주주의·법치주의를 강조합니다. 그러나 반복해서 등장하는 단어는 비슷합니다. 투명성, 감독, 책임, 차별 방지, 개인정보 보호, 안전, 권리구제입니다.
AI 규제는 기술을 벌주기 위해 만들어지는 장치가 아닙니다. 기술이 사람의 삶에 깊숙이 들어올수록, 그 기술이 누구에게 어떤 영향을 주는지 설명할 수 있어야 합니다. 사람이 불이익을 받았을 때 다툴 수 있어야 합니다. 기업과 기관은 “AI가 그렇게 판단했다”는 말 뒤에 숨을 수 없어야 합니다.
AI는 앞으로 더 많이 쓰일 것입니다. 그 흐름을 법이 멈추기는 어렵습니다. 그래서 더 중요한 일은 AI가 쓰이는 방식을 정교하게 관리하는 것입니다. 어떤 판단은 자동화할 수 있습니다. 어떤 판단은 사람이 반드시 검토해야 합니다. 어떤 판단은 처음부터 기계에 맡겨서는 안 됩니다.
결국 AI 시대의 법이 물어야 할 질문은 하나입니다.
AI가 사람에게 영향을 미칠 때, 누가 설명하고, 누가 감독하며, 누가 책임질 것인가.
