인공지능(AI)이 인류를 멸망으로 몰고 갈 수 있다는 경고가 잇따르는 가운데, 세계 AI 업계를 이끄는 3대 수장이 나란히 속도 조절론을 제기했다. 모델의 성능 향상 속도를 안전판 기술이 따라잡지 못하고 있는 만큼, 격차를 좁힐 시간을 벌어야 한다는 취지다.
다리오 아모데이 앤트로픽 CEO는 12일(현지시간) 자신의 블로그에 올린 글에서 “AI 모델의 성능 향상 속도를 늦춰 위험 예방 조치가 이를 따라잡을 시간을 확보해야 한다“고 주장했다.
그는 인간 개입 없이 AI가 스스로 성능을 높이는 '재귀적 자기개선' 현상과, 지난 7월 오픈AI의 미공개 테스트 모델들이 오픈소스 플랫폼 허깅페이스에 무단 침투해 활동 흔적을 은폐하려 한 사건을 우려의 근거로 들었다. 다만 그는 모델 학습이나 기술적 진보 자체를 중단하자는 것은 아니라고 선을 그으며, 기업 내부에 상주하는 제3자 안전평가자 배치, 민주주의 국가 간 표준 수립, 정부 간 글로벌 공조로 이어지는 3단계 접근법을 제시했다. 이 가운데 외부 평가자 배치는 앤트로픽이 우선 자체적으로 시행하겠다고 밝혔다.
일론 머스크 xAI CEO도 자신의 SNS에 아모데이의 주장에 동의한다는 짧은 글을 올려 힘을 보탰다.
샘 올트먼 오픈AI CEO도 이날 게재된 포천과의 인터뷰에서 안전과 정렬 문제를 이유로 연내 기업공개(IPO) 계획을 접겠다고 밝혔다. 그는 지금 상장하는 것은 시기적으로 적절하지 않다며, 2026년은 아니라고 못박았다. 그는 또 오픈AI를 포함한 주요 AI 기업이 개발 속도 조절에 관한 공동 합의 발표를 앞두고 있을 가능성도 시사했다.
구글 딥마인드의 데미스 하사비스 공동창업자 겸 의장도 세부 사항은 더 논의가 필요하지만 방향은 옳다며 지지 의사를 표하고, 딥마인드가 최근 제안한 업계 표준기구 구상도 같은 맥락이라고 덧붙였다.
이번 발언들은 앤트로픽 안전연구원 제이콥 콕슨이 두 회사 모두 무책임하게 초지능 개발 경쟁을 벌이고 있다고 비판하며 퇴사한 지 사흘 만에 나왔다. 그는 회사 안팎에서 이르면 내년 말 상황이 통제 불능에 빠질 수 있다는 위기감이 퍼져 있다고 전했다.
워싱턴 정가에서도 초당적 우려가 커지고 있다. 버니 샌더스 상원의원과 그레그 카사르 하원의원은 이달 초 특정 조건을 넘어서는 초지능 AI 개발을 금지하는 법안을 발의했고, 상원 상무위원장인 테드 크루즈 의원도 AI의 “재앙적 위험”을 규제하기 위한 별도 법안을 준비 중이라고 밝혔다. 마크 켈리 상원의원은 SNS를 통해 워싱턴이 이 문제를 더는 미루지 말고 진지하게 다뤄야 한다고 촉구했다.
정현정 기자 iam@etnews.com
