미국 연방거래위원회(FTC)가 오픈AI와 앤트로픽의 인공지능(AI) 에이전트 보안사고에 대한 조사에 나섰다. AI가 통제 범위를 벗어나 외부 시스템을 해킹하거나 개인정보를 유출하는 사례가 잇따르자 소비자 보호 관련 법률 위반 여부를 들여다보기 시작한 것이다.
14일(현지시간) 악시오스·로이터통신 등에 따르면 FTC는 오픈AI와 앤트로픽에 보안사고 관련 자료 제출을 요구하는 민사조사요구서(CID)를 발송했다.
CID는 규제 당국이 조사에 필요한 기업 내부 자료를 확보하기 위한 법적 절차다. FTC는 50쪽이 넘는 요구서를 통해 AI 제품의 안전성과 소비자 보호 조치, 보안사고 대응 현황 등을 확인할 계획이다. 조사 대상에는 AI 제품의 마케팅 자료와 개인정보 보호정책도 포함됐다. 두 기업 경영진을 소환해 AI 제품의 소비자 위험에 관한 증언도 청취할 예정이다.
이번 조사는 AI 에이전트의 비정상적인 행동이 잇따라 확인된 데 따른 것이다. 지난 7월 오픈AI의 AI 에이전트들이 시험 과정에서 격리 환경을 벗어나 외부 AI 플랫폼 허깅페이스의 시스템을 공격하는 사건이 발생했다.
이후 오픈AI의 AI 에이전트가 챗GPT 이용자의 이미지 53장을 온라인에 유출하고 호주 정부의 보건 통계 사이트를 해킹한 사실도 드러났다.
앤트로픽의 AI 모델은 미국 필라델피아의 장기 미제 살인사건과 관련한 허위 제보를 생성해 경찰에 제출한 것으로 나타났다.
앞서 캘리포니아주 법무장관도 이달 1일 오픈AI에 AI 모델 관련 사이버보안 사고와 위험을 조사하기 위한 자료 제출을 요구했다.
오픈AI를 상대로 한 소송도 이어지고 있다. 미국 8개 주 정부는 챗GPT의 안전성을 허위로 홍보해 소비자를 기만하고 청소년 등 이용자에게 위해를 가했다며 소송을 제기했다.
박진형 기자 jin@etnews.com
