프랑스·캐나다 등 6개국 정부와 오픈AI·앤트로픽 등 인공지능(AI) 기업 10개사가 첨단 AI 안전성과 보안 강화를 위한 국제 협력에 나섰다.
AI가 사이버 공격에 악용되거나 인간의 통제를 벗어날 위험에 공동 대응하기 위해 위험 평가와 사고 정보 공유 체계를 구축하는 것이 핵심이다.
10일(현지시간) 캐나다 총리실 따르면 프랑스·캐나다·핀란드·노르웨이·네덜란드·바레인 등 6개국과 도민·마이크로소프트(MS)·미스트랄AI·블랙포레스트랩스·사카나AI·신세시아·앤트로픽·오픈AI·코히어·허깅페이스 등 10개 AI기업은 '파리 AI 안전·보안 선언'에 9일 서명했다.
에마뉘엘 마크롱 프랑스 대통령이 주도한 이번 선언은 첨단 AI 기술의 급속한 발전에 따른 위험에 대응하기 위한 국제 협력 원칙을 담았다. 고도화된 AI 모델이 사이버 공격에 악용되거나 자율적으로 작동하는 과정에서 인간의 통제를 벗어날 가능성을 주요 위험으로 제시했다.
선언에 참여한 국가와 기업은 AI 모델에 대한 독립적인 제3자 평가를 확대하고 공통 위험평가 기준을 마련하기로 했다. 기업별로 서로 다른 방식으로 이뤄지는 위험 평가의 일관성을 높였다. 민감하지 않은 평가 결과는 표준화된 방식으로 공개한다는 방침이다.
AI 개발기업 책임도 강화한다. 기업들은 자사 모델의 능력과 한계, 잠재적 위험에 관한 정보를 공개하고, 모델 훈련과 내부 사용을 포함해 직접 통제하는 시스템 작동을 중단할 수 있는 안전장치를 마련하기로 했다.
중대한 AI 안전 사고에 대한 정보 공유도 추진한다. 사고 발생 시 관련 정보를 신속하게 전달해 위험 확산을 막고, 국가와 기업 간 공동 대응 역량을 높이겠다는 취지다.
프랑스 일간지 르몽드는 이번 선언이 최근 AI 에이전트의 예기치 않은 사이버 공격 등으로 안전성 우려가 커지는 가운데 추진됐다고 보도했다. 오픈AI의 AI 에이전트가 사이버보안 시험 과정에서 허깅페이스 플랫폼을 상대로 예상치 못한 공격을 수행한 사례를 소개하며 AI 통제 문제를 조명했다.
이번 선언 서명은 AI 안전에 관한 국제 공통 규범 마련의 초기 단계라는 의미가 있다. 다만 법적 구속력이나 구체적인 이행 기한, 위반 시 제재 조항은 제시되지 않아 실효성 확보가 과제로 남았다.
또 선언 합의 및 서명에 앞서 엘리제궁 회의에는 서명한 6개국뿐만 아니라 일본, 영국, 시에라리온 등 3개국도 참석했으나 서명에 참여하지 않았다.
세계 AI 선도국으로 평가되는 미국·중국과 3위권으로 분류되는 한국·싱가포르 등은 함께하지 않는 등 주요 AI 개발국 참여가 제한적인 만큼 향후 국제 협력 확대 여부가 주목된다.
한편 오픈AI는 앞서 지난 9월 열린 제81차 유엔 총회 고위급 회의를 계기로 차세대 AI 기술과 안전 표준 수립을 미국이 주도해야 한다고 촉구한 바 있다. 한국을 포함한 10개국에 동참을 제안했다. 같은 날 핀란드·노르웨이·캐나다·독일 등 20개국은 AI 글로벌 감독 체계 수립을 제안하는 선언문을 채택했다.
박종진 기자 truth@etnews.com
