정부와 플랫폼 업계가 총선을 앞두고 딥페이크 대응책 마련에 나선 가운데 콘텐츠 생성 단계부터 '악성' 딥페이크를 차단할 정책이 시급하다는 목소리가 나온다.
28일 업계에 따르면 한국인터넷기업협회는 구글코리아, 메타, 네이버, 카카오, SK커뮤니케이션즈, 틱톡 등과 딥페이크 대응방안을 준비하고 있다.
최근 뮌헨안보회의(MSC)에서 발표된 기술 협정과 같은 협약문을 발표하는 것이 목표다.
다만 정부 부처도 완벽한 해결책을 찾지 못하고 있다. 방송통신위원회가 딥페이크 자율규제 강화를 위한 민관협력 회의를 개최했지만, 딥페이크 생성 기업이 아닌 유통 플랫폼 업체들만 참여했다.
문제는 네이버, 카카오, 구글, 메타, 엑스(구 트위터), 바이트댄스(틱톡) 등 플랫폼 기업 중 딥페이크를 판별할 수 있는 기술을 개발한 곳이 없다는 점이다. 인공지능(AI)을 통해 음란물 등을 모니터링·필터링할 수 있는 기술을 가진 곳은 있지만, 이는 딥페이크 판별 기술과는 원천적으로 다르다.
이에 업계와 학계에서는 애초 영상을 만들 때부터 딥페이크 콘텐츠라는 워터마크를 부착하는 것이 실효성 있는 대안이라는 목소리가 나온다. 공신력이 필요한 영상에는 진위 여부를 판단할 수 있는 변형 불가한 마크를 부착하는 방식도 고려해 볼 수 있다.
현재 국회에는 AI를 이용해 만든 가상의 영상 콘텐츠 등에 표시 의무를 부과한 법이 계류 중이다. 김승수 의원이 대표 발의한 '정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정안'이다.
이승훈 가천대 교수는 “딥페이크 콘텐츠 생성 툴을 제공하는 기업에 워터마크를 의무화해 누가 언제 어디서 콘텐츠를 만들었는지 추적할 수 있는 시스템을 만든다면 사회적 혼란을 줄이는데 유의미할 것”이라며 “다만 비용 문제, 국가 기술 경쟁력 등을 고려한 사회적인 합의가 선행돼야 한다”고 말했다.
방통위는 아직까지 딥페이크 생성 기업에 대한 관리감독 계획은 없다는 입장이다. 소관 사무가 방송통신 이용자 보호, 건전한 이용환경 조성에 관한 사항으로 제한돼 있기 때문이다. 이에 따라 과학기술정보통신부가 딥페이크 생성 및 개발 관련 정책 논의를 이끌어야 한다는 의견도 나온다.
하지만 과기정통부도 아직까지 묘수가 없다. AI 소관 법이 없기 때문이다. 현재 '인공지능산업 육성 및 신뢰 확보에 관한 법률안'은 국회에 계류 중이다. 과기정통부는 법이 없는 상황에서 사전 관리는 기업의 자율 책임에 기댈 수 밖에 없다는 입장이다.
일각에서는 딥페이크 대응 제도를 구축하는 것과 함께 장기적으로는 기업 스스로 딥페이크를 감지할 수 있는 기술을 개발하거나 기업을 발굴해야 한다는 의견도 있다. IT 업계 한 관계자는 “이번 사안을 계기로 딥페이크 기술을 판별할 수 있는 스타트업 등을 발굴해야 한다”고 밝혔다.
손지혜 기자 jh@etnews.com
