앤트로픽·오픈AI에 이어 메타의 인공지능(AI) 모델도 인간 통제를 벗어나 외부 기관을 해킹한 것으로 나타났다. 내부 사이버 보안 테스트 도중에 발생한 사고다.
5일(현지시간) 블룸버그·CNN 등에 따르면 메타는 자사 AI 모델 '뮤즈 스파크'가 독립 검증업체 '이레귤러'가 진행하는 시험 도중 인터넷에 무단 접속했고, 이후 다른 기관 시스템을 해킹한 사실을 확인했다고 밝혔다.
뮤즈 스파크는 이레귤러 설정 오류로 인터넷에 연결, 취약점을 악용해 외부 기관에 무단 접속한 것으로 확인됐다. 해킹 피해를 입은 기관은 한 곳으로 알려졌다.
이레귤러는 “이번 사건은 격리 환경에서 탈출이나 정교한 사이버 해킹 공작과는 다르다”며 “해결되지 않은 보안 문제는 없는 상황”이라고 설명했다.
앞서 영국 AI보안연구소(AISI)는 첨단 AI 모델 몇몇이 스스로 만들어낸 가짜 신원으로 인간들에 접촉, 악성코드를 전달한 사례를 공개했다. 앤트로픽이 17건, 오픈AI가 2건의 해킹 시도와 사례가 발견됐다.
메타의 이번 해킹 시도는 앤트로픽 '클로드' 모델 사례와 유사하다. AI 모델 사이버 보안 테스트 과정에서 설정 실수로 인터넷에 연결된 게 해킹의 발단이 됐다. 흔히 '샌드박스'로 불리는 격리 환경에서 탈출하지 않았다는 점에서 오픈AI 'GPT' 시도와는 달리 사람이 불러온 사고로 분류된다.
그럼에도 미국 빅테크 기업들이 평균 2~3개월 만에 차세대 첨단 모델을 선보이는 상황에서, 주요 기업 AI 모델의 사이버 해킹 사례가 지속 나타나며 AI에 대한 신뢰성을 흔들 수 있다는 관측이 나온다.
메타와 이레귤러는 이번 보안 사고의 구체적인 사실관계를 확인해 보고서와 백서 등을 발표할 예정이다.
박종진 기자 truth@etnews.com
