페이스북이 '딥페이크' 게시물을 금지한다. 미국 대선 등 올해 굵직한 정치 이벤트를 앞두고 '가짜뉴스' 차단에 나선다.
페이스북은 8일 공식블로그를 통해 딥페이크 영상 금지 방안을 발표했다. 딥페이크는 인공지능, 머신러닝을 활용해 원본 영상 인물에 다른 사람 얼굴을 입히는 기술이다.
딥페이크 결과물 수준은 최근 인공지능 기술이 발달하며 육안으로 판별하기 어려울 정도로 향상됐다. 딥페이크 기술은 영화 등 콘텐츠 산업에서 유용하게 쓰이기도 하지만 정치인이 하지 않은 행위나 말을 퍼트리는 등 공인을 공격하기 위한 목적으로 사용하는 경우도 많다.
페이스북은 앞으로 딥페이크 영상이 올라올 경우 원칙적으로 삭제한다. 이용자가 쉽게 알아채지 못하는 수준으로 만진 영상, 실제 인물이 하지 않은 말을 한 것처럼 수정한 영상은 삭제 대상이다.
다만 유희나 패러디를 위해 누구나 조작여부를 알아 볼 수 있는 수준 콘텐츠는 허용한다. 딥페이크를 활용하지 않은 영상은 논란이 있어도 일단 유지한다. 지난해 페이스북 등에 유포되며 논란이 된 '낸시 펠로시 미 하원의장 주취 영상' 등이 이에 해당한다. 이 영상은 딥페이크 기술이 아니라 재생속도를 늦춰 낸시 펠로시 의장이 마치 술에 취한 것처럼 편집했다.
페이스북, 트위터 등 사회관계망서비스(SNS)는 미국 정치권으로부터 '가짜뉴스 진원지'로 지목받고 있다. 워싱턴포스트는 “이번 페이스북 조치는 2020년 대선을 앞두고 새로운 형태의 가짜 뉴스가 확산하는 것을 차단하려는 조치”라고 해석했다.
모니카 비커트 페이스북 글로벌 규정 부사장은 “이런 (정교한 딥페이크) 동영상은 인터넷상에 드물지만 사용이 점차 늘면서 산업계와 사회에 중대한 도전이 되고 있다”고 말했다.
페이스북은 이번 주 미 하원이 개최하는 '디지털 시대의 조작과 기만'을 주제로 한 청문회에 증인으로 출석할 예정이다.
김시소기자 siso@etnews.com
