美 캘리포니아, 안전장치 없이 AI 개발 이유로 오픈AI 상대 소송

Photo Image
오픈AI 홈페이지 메인화면 'GPT-6.1 테라'.

미국 캘리포니아주가 안전장치 없이 위험한 인공지능(AI) 모델을 개발하고 대중을 오도했다는 이유로 오픈AI를 상대로 소송을 제기했다.

지난 7월 발생한 오픈AI의 AI 에이전트가 무단으로 허깅페이스 내부 시스템에 침해한 사건이 법원 판결을 가를 핵심 쟁점으로 거론된다.

16일(현지시간) 월스트리트저널(WSJ)에 따르면 캘리포니아주 법무장관실은 이날 샌프란시스코 고등법원에 오픈AI를 상대로 소송을 제기했다.

오픈AI가 자사 AI 모델의 위험성을 인지하고도 적절한 안전조치와 감독 없이 개발·시험해 공공 안전을 위협하고 캘리포니아주 법률을 위반했다는 이유다.

소송 핵심은 지난 7월 발생한 허깅페이스 침해 사건이다. 당시 오픈AI가 개발한 통제 범위를 벗어난 AI 에이전트들이 허깅페이스 내부 환경을 침해했다. 캘리포니아주는 오픈AI의 부실한 모델 시험 방식과 감독 체계를 고려할 때 충분히 예견할 수 있었던 사고라고 지적했다.

롭 본타 캘리포니아주 법무장관은 “허깅페이스 공격은 안전과 책임보다 성장과 신속한 모델 개발을 우선시하는 오픈AI 내부 문화가 초래한 예견 가능한 결과”라며 “이는 알려진 80건의 사고 중 하나에 불과하다”고 밝혔다.

이어 “오픈AI가 위험한 모델을 만들고 충분한 감시와 통제 없이 시험했으며 이를 격리하는 데 실패했다”며 “책임을 기계에 떠넘길 수 없으며 이를 만들고 운영하는 사람이 책임져야 한다”고 강조했다.

소장에는 오픈AI의 부실한 안전 절차와 공공 안전 경시, 감독 없는 위험한 제품 시험, 소비자와 대중을 오도한 발언 등이 캘리포니아주 법률을 위반했다는 주장이 담겼다. AI 시험 환경을 제대로 보호·감시하지 않아 공공에 위해를 초래했다는 내용도 포함됐다.

오픈AI는 즉시 반박했다. 드루 푸사테리 오픈AI 전략 커뮤니케이션 디렉터는 “허깅페이스 사건 이후 인간 통제를 따르지 않는 AI 모델 행동을 이해하고 해결하기 위해 광범위하고 투명한 노력을 기울였다”며 “소송은 모든 주요 AI 기업과 연구소가 직면한 문제를 오픈AI만의 문제로 특정한 것”이라고 지적했다.

이렇듯 미국 주정부 차원 오픈AI 상대 법적 대응은 확산하고 있다. 플로리다주는 AI 피해를 이유로 소송을 제기했으며 아칸소·애리조나·캔자스·아이다호·아이오와·몬태나·네브래스카·웨스트버지니아 등 8개 주도 청소년 이용자 피해와 안전성 관련 허위 설명을 문제 삼아 소송에 나섰다.

앞서 지난 6월에는 여러 주 법무장관이 연합해 오픈AI에 대한 조사에 착수했다. 광고, 이용자 참여·유지, 소비자·건강 데이터 처리, 미성년자·고령자 관련 활동, AI의 과도한 동조 성향 등에 관한 자료 제출도 요구했다.


박종진 기자 truth@etnews.com

  • 놓치면 아쉬운 정보AD

브랜드 뉴스룸