스페인 정부가 인공지능(AI)으로 생성된 누드 이미지 관련 X(옛 트위터), 페이스북·인스타그램 운영사 메타플랫폼과 틱톡 대상 수사에 착수한다.
월스트리트저널(WSJ)은 스페인 정부가 AI 생성 이미지 관련 미성년자 대상 범죄 혐의를 조사하기 위해 수사기관에 X·메타·틱톡 상대 수사를 의뢰했다고 17일(현지시간) 보도했다. 최근 미성년자 이미지를 포함해 대량의 AI 생성 누드 이미지가 온라인상 유포·확산된 것 관련 범죄 여부 확인 차원이다.
엘마 사이즈 스페인 통합·사회보장·이민부 장관은 “미성년자 이미지를 포함한 AI 생성 누드 이미지 약 300만장이 2주도 안되는 기간 동안 온라인에 유포됐다”며 “아동 포르노·미성년자 비하 등 범죄 혐의에 대해 검찰에 수사를 의뢰했다”고 밝혔다.
사이즈 장관은 “알고리즘으로 이러한 행위가 확산되거나 조장되는 것을 용납할 수 없다”며 “우리 아이들 안전이 위협받고 있다”고 강조했다.
페드로 산체스 스페인 총리 역시 X에 올린 글에서 X·메타·틱톡이 아동의 정신 건강과 존엄성·권리를 훼손하고 있다며 조사를 촉구했다.
틱톡은 아동 성 학대 자료는 플랫폼 내 금지돼 있고 청소년을 착취하거나 해치려는 시도를 막기 위한 강력한 시스템을 갖추고 있다고 해명했다. 메타와 X는 관련 입장을 내지 않았다.
메타는 동의 없는 성적 이미지에 대해 강력한 조치를 취하고 있으며 적발 시 즉시 삭제하며 아동 성 착취에 대한 엄격한 정책을 시행하고 있다고 원론적으로 설명했다. X는 과거 모든 형태의 아동 성 착취, 동의 없는 나체 이미지, 원치 않는 성적 콘텐츠에 대해 무관용 정책을 시행하고 있다고 밝힌 바 있다.
이번 스페인 정부의 조사 요구는 미성년자 보호에 대한 플랫폼의 미흡한 조치를 비판해온 산체스 총리가 호주의 조치를 따라 16세 미만 아동의 소셜미디어 접속을 연령 확인 시스템으로 차단하겠다는 계획을 발표한 지 몇 주 만에 이뤄졌다.
WSJ는 AI 기술의 발전과 함께 기술 대기업의 플랫폼 운영 방식에 대한 감시를 강화하는 움직임이라고평가했다. AI 기술 발전으로 사용자는 AI 생성 서비스에 프롬프트를 입력하는 것만으로 이미지를 쉽게 생성, 안전장치 없이는 노골적인 이미지가 생성될 수 있는 상황에 대한 문제 제기라는 취지다.
앞서 일론 머스크 테슬라 최고경영자(CEO)가 인수한 X는 머스크 CEO가 오픈AI 대항마로 설립한 xAI의 AI 모델 '그록'으로 만들어진 성적인 딥페이크 이미지의 유럽 내 확산에 대한 유럽연합(EU)·아일랜드 당국 등 집중 조사를 받기 시작했다.
박종진 기자 truth@etnews.com
