일론 머스크가 이끄는 인공지능(AI) 기업 xAI가 웹사이트와 애플리케이션 내 '디지털 누드화' 기술을 금지하는 미네소타주의 법률에 반발해 연방 법원에 소송을 제기했다.
미네소타주의 이번 조치는 미국 최초의 AI 누드화 금지법으로, 주 정부의 AI 규제에 대한 헌법적 한계를 가늠할 시험대가 될 전망이다.
29일(현지시간) AP 통신 등에 따르면, xAI는 법 발효를 며칠 앞둔 27일 연방 법원에 제출한 38페이지 분량의 소장을 통해 해당 법안이 헌법상 보호받아야 할 이미지와 영상까지 과도하게 금지하고 있다고 주장했다.
xAI 측은 동의 없는 성적 딥페이크 이미지 배포를 막으려는 주 정부의 목적 자체에는 동의하지만, 미네소타주 법이 그 목적을 넘어섰다고 지적했다. 법안이 정한 '은밀한 부위'의 정의가 지나치게 넓어 일상적인 신체 노출까지 포함할 수 있는 데다, 기업이 불법 콘텐츠 생성을 막기 위해 성실히 노력했더라도 면책 조항이 적용되지 않으며 위반 시 최대 50만 달러의 벌금이 부과될 수 있다는 점을 문제 삼았다.
이에 대해 키스 엘리슨 미네소타주 법무장관은 성명을 내고 “본인의 의사에 반해 AI로 나체 이미지를 생성하는 것은 대상의 존엄성을 훼손하고 심각한 피해를 주는 행위”라며 법안의 정당성을 강조했다.
현재 미네소타주 법률은 사용자를 처벌하는 기존 딥페이크 처벌법과 달리 AI 도구를 개발 및 제공한 기업 자체를 직접 규제 대상으로 삼고 있다.
xAI는 자사 AI 모델인 '그록(Grok)'의 이용 약관을 통해 타인의 사생활을 침해하거나 동의 없는 성적 콘텐츠를 생성하는 행위를 금지하고 있으며, 위반 계정 정지 및 지역 차단 등 기술적 조치를 시행 중이라고 밝혔다.
서희원 기자 shw@etnews.com
