“일상생활로 들어온 '기계의 낙원'에서 우리의 인간성을 잃지 않아야 합니다. 도덕적으로 선한 것을 가려낼 수 있도록 윤리적 분별력을 교육하고 훈련하는 일이 시급합니다.”
레오 14세 교황이 지난 25일(현지시간) 프랑스 공식 방문 석상에서 에마뉘엘 마크롱 프랑스 대통령 등과 만나 이같이밝혔다. 인공지능(AI)이 스스로 생각·판단하고 수행하는 에이전틱 AI 시대, AI가 인간 존엄성과 판단을 훼손하지 않도록 통제해야 한다는 메시지로 풀이된다.
AI와 첨단기술이 인간의 판단을 대신하는 상황에도 인간이 도덕적 판단의 최종 주체로 남아야 한다는 취지다. 또 파리 유네스코 본부 연설에서도 AI 진보와 인간 존엄성 훼손 사이 모순을 지적하면서 기술이 인간을 지배하지 않아야 한다고 당부했다.
교황은 프랑스 방문 전부터 비슷한 메시지를 내고 있다. 지난 21일 로마 교황청립 라테라노대에서 열린 'AI4Peace' 회의에 보낸 메시지에서 “AI 시스템이 사회적 분열과 갈등을 확대해서는 안된다”며 “인간 존엄성을 보호하고 공동체 유대를 강화하는 방향으로 개발돼야 한다”고 강조했다.
AI 개발에는 기술적 효율성뿐 아니라 '지혜와 자비'가 필요하다고 조언했다. 취임 이후 허위정보 확산과 갈등 증폭 등 AI 위험성을 지속 거론한 데 이어 나온 발언으로, 최근 오픈AI·앤트로픽·구글 등 미국 빅테크로부터 시작된 'AI 속도조절론'과 맞물리며 관심이 쏠린다.
교황은 그동안 각국 지도자들에 AI를 기업 자율에 맡기지 말고 적극 감독할 것을 주문한 바 있다. 앞서 지난 5월 교황 첫 회칙 '마니피카 후마니타스(위대한 인간성)'을 통해 AI 규제 입장을 밝힌 바 있다.
그는 당시 “인류를 위험으로부터 보호하기 위해 AI를 '무장해제'해야 한다”며 “기술을 거부하는 것이 아니라 기술이 인간을 지배하지 못하도록 통제하자는 의미”라고 설명했다.
특히 AI·데이터·플랫폼 통제권이 소수 기업에 집중될 경우, 의존·배제와 불평등이 심화될 수 있다며 정부 개입과 국제 규율을 촉구했다. 전쟁에서 AI가 인간의 도덕적 판단을 대신하는 상황도 경고했다.
교황이 AI 기술개발 중단보다 인간 통제와 윤리·국제 규범을 앞세운 '안전한 AI 발전'을 강조하는 입장을 가진 것으로 해석된다.
박종진 기자 truth@etnews.com
