“정부 규제는 매번 국내 플랫폼을 향해 있습니다. 이번에도 규제 당국이 N번방 사태 때와 같이 애먼 기업만 옥죌까 우려스럽습니다. ”
업계 한 관계자는 최근 딥페이크로 인해 촉발한 불법 콘텐츠 규제가 실효성이 떨어진다고 지적하며 이렇게 말했다. 문제의 근원은 글로벌 플랫폼인데, 한국 법인을 제대로 갖추지 않은 이들과 연락이 닿지 않으니 국내 플랫폼만 규제의 늪에서 허우적댈 수밖에 없다는 우려다.
더 큰 문제는 규제 사각지대에 놓인 딥페이크 생성 기업들이다. 현재 우리나라 규제 당국과 주무부처에서는 이들에 대한 실태 파악조차 진행하지 못한 상황이다.
최근 과학기술정보통신부와 방송통신위원회는 딥페이크 생성 기업에 대해 '전수조사를 시행한 점이 없다'고 밝혔다. 딥페이크 생성 주체는 기업으로만 한정할 수 없고 인공지능(AI) 기술을 활용할 수 있으면 누구나 딥페이크 생성이 가능하므로 전수조사를 위한 범위 한정이 어렵다는 이유에서였다.
그렇다면 손을 놓고 있을 것이 아니라 기업과 개인에 대한 투트랙 접근법을 마련해야 한다. 생성 AI 기업을 조사하고, 이들 기업에 책임 있는 AI를 구축하도록 기술적 조치를 강제하는 방안을 논의해야 한다. AI가 콘텐츠의 맥락을 파악해 음란물 생성·유통을 차단토록 하는 것이 하나의 예다. 개인 차원에서는 윤리 교육과 함께 처벌 수준을 높이는 방향을 고려해 볼 수 있다.
생성 AI가 사회적으로 인기를 끌며 '통제 불가로 인한 공포'도 덩달아 부상했다. 우려는 현실로 다가왔다. 현재 한국은 딥페이크 최대 피해국이라는 오명을 쓰고 있다. 전 세계 딥페이크 피해자 중 53%가 한국인이다. 기존 규제에 미흡한 점은 없었는지, 규제의 칼날이 엉뚱한 곳을 향한 것은 아닌지 되새겨볼 때다.
손지혜 기자 jh@etnews.com
