“인류를 위험으로부터 보호하기 위해 인공지능(AI)을 '무장해제'해야 합니다. AI를 더욱 인간 친화적으로 만들어야 합니다.”
레오 14세 교황은 25일(현지시간) 바티칸 교황청 시노드 강당에서 이런 내용을 담은 회칙 '마니피카 후마니타스(위대한 인간성)'을 직접 발표했다.
앤트로픽 '클로드 미토스 프리뷰', 오픈AI 'GPT-5.5 사이버' 등 차세대 AI 모델이 은행 시스템을 파괴하고 군사 공격 목표를 선정하며, 궁극적으로 광범위한 의사결정 과정에 인간을 대체할 수 있다는 우려가 커지는 가운데 AI 모델의 사용 제한 범위를 둘러싼 격렬한 논쟁에 교황이 참여한 것이다.
레오 14세는 역사상 최초로 AI 시대에 인류를 보호해야 한다는 필요성을 공개적으로 표명했다. 교황은 “무장해제는 기술을 가진 권력자가 AI에 대한 통치권을 갖는다는 권리를 거부하는 것을 의미한다”며 “무장해제는 기술을 거부하는 게 아닌 기술의 인류 지배를 막자는 것”이라고 설명했다.
이어 “AI는 이미 우리가 직면하고 있는 환경인 동시에 우리가 대응해야 하는 힘”이라며 “누구든 환영할 수 있고 접근할 수 있게 무장해제돼야 한다”고 말했다.
특히 전쟁에 AI를 활용하는 위험과 도덕적 고려를 간과하는 것에 대해 경고했다. 그는 “전쟁 과정에서 어떤 알고리즘 활용도 도덕적으로 용납하게 만들 수는 없다”고 강조했다.
이는 앤트로픽과 미국 전쟁부(국방부) 간 자국민 사찰·자동 살상무기 활용 등에 대한 갈등을 조준한 것으로 해석, 미국 출신임에도 AI 관련 도널드 트럼프 미국 대통령과 정면 충돌을 예고한 것으로 분석되고 있다.
마그니피카 후마니타스는 라틴어로 '웅장한 인류애'를 의미한다. 해당 문서는 교황이 1년 전 세계 14억 가톨릭 신자들의 수장이 된 뒤 가장 중요한 행보로 평가된다.
교황 회칙은 기후 변화와 이민 문제 등 당대의 가장 중요한 과제에 대한 도덕적 지침을 제시하는 수단이기 때문이다. 실제 회칙은 교황이 세계 가톨릭 신자·주교들에 전하는 최고 권위 사목 교서다. 교황 교서, 권고, 담화, 연설, 강론 등 다른 교황 문서와 비교해 가장 구속력이 강하다.
교황은 “AI는 인간사 갈등 유인인 비인간성을 제거하지 못하고 오히려 갈등을 더 빠르게, 더 비인간적으로 만들 뿐”이라며 “일부가 무력을 국내 문제에서 관심을 돌리는 효과적인 방법이자 어려움을 해결하는 냉소적인 도구로 여길 수 있다”고 우려했다.
AI 등 신기술에서 파생된 알고리즘, 디지털 플랫폼, 기술 인프라, 데이터 등은 '보편적 재화'에 포함해야 한다고 제안했다. AI·디지털 등 기술 사용자 간 불균형을 최소화하기 위한 차원이다.
교황은 “디지털 환경에서 플랫폼·데이터·인프라는 국가가 아닌 경제·기술자들이 통제한다”며 “통제권이 소수에 집중될 때 불투명해지고 의존, 배제, 불평등으로 왜곡될 위험이 커진다”고 지적했다.
AI와 로봇 시대 각국 정부의 적극적 개입을 촉구했다. 교황은 “시장의 '보이지 않는 손'에만 의존하는 것은 더 이상 가능하지 않다”며 “정치가 노동 존엄성, 사회적 포용, 혁신의 공정한 분배를 이뤄내야 한다”고 당부했다.
박종진 기자 truth@etnews.com
