인공지능(AI) 기술의 발전으로 인해 사람의 얼굴을 음란물에 합성하는 딥페이크 범죄가 급증하고 있다. 이러한 범죄는 여자 연예인뿐만 아니라 일반인까지 대상으로 하며, 불법적으로 제작 및 배포된 딥페이크 음란 영상물이 사회적 불안을 증폭시키고 있다.
이에 잉카엔트웍스는 딥페이크 범죄를 방지하고 피해자를 보호하기 위한 솔루션으로 포렌식 워터마킹과 Anti Piracy(콘텐츠 유출 추적 기술)를 제안했다. 이 기술은 디지털 콘텐츠에 삽입된 워터마크를 통해 불법 유출자를 추적하고, 콘텐츠 불법 유통 경로를 식별하는 데 사용된다.
포렌식 워터마킹은 디지털 콘텐츠에 사람의 눈에 보이지 않는 정보가 포함된 비가시성 워터마크를 삽입해 불법 복제나 유출 시 출처를 추적할 수 있는 기술이다. 특히, OTT 등 VOD 플랫폼 및 SNS에서 악의적인 사용자가 콘텐츠를 다운로드 및 배포할 때 워터마크에 삽입된 정보를 통해 유출자를 추적할 수 있다. 이러한 기술을 통해 딥페이크 영상의 불법 제작과 배포를 사전에 방지할 수 있다.
잉카엔트웍스는 딥페이크 제작자가 SNS, VOD 플랫폼에서 원본 영상을 획득한 후, 딥페이크 앱을 이용해 불법적으로 변형된 영상물을 제작하고 메신저를 통해 배포하는 과정을 분석했다. 이 과정에서 총 5개 지점에서 포렌식 워터마킹 기술을 적용할 수 있다. 영상이 업로드 및 다운로드되는 지점과 최종적으로 딥페이크 영상물이 공유되는 메신저 플랫폼에서 워터마크를 활용해 유출자뿐만 아니라 콘텐츠를 재배포하는 자까지 추적할 수 있다.
워터마킹 기술 적용 가능 지점 중 가장 적합한 곳은 딥페이크 앱이다. 영상이 생성될 때 생성자의 정보를 삽입해 악의적 사용자에 대한 추적이 용이해 딥페이크 범죄 대응이 가능하다. 하지만 딥페이크 영상물 제작 시 필수로 가시성 워터마크를 삽입해야 한다는 법안은 국회에 계류되어 있으며, 시각적으로 보이는 워터마크는 기술적인 한계가 있다.
현시점에서는 VOD 플랫폼에 워터마킹 기술이 적용된 경우, 딥페이크 범죄에 가장 효과적으로 대응할 수 있다. 특히 OTT 등에서는 콘텐츠 불법 복제에 대응하기 위해 A/B 기반 워터마킹을 도입하고 있다. 이 기술은 영상의 위변조 공격에 강인하고, 유출자를 정확히 특정할 수 있다. 따라서 재인코딩, 크롭, 필터링 등 다양한 변형 공격에도 워터마크와 삽입된 정보가 유지되어 유출자를 추적하는 데 효과적이다.
잉카엔트웍스의 포렌식 워터마킹 및 Anti Piracy 기술은 콘텐츠 보안 솔루션 '팰리컨(PallyCon)'으로 제공되고 있다. 특히 팰리컨의 워터마킹 기술은 일부 딥페이크 알고리즘에서 강인성을 확보하고 있다. 이러한 기술을 통해 전 세계의 불법 콘텐츠 유출을 감시하고 실시간으로 삭제 조치를 취할 수 있다.
팰리컨은 클라우드 기반 SaaS(Software as a Service)로 제공하고 있어 복잡한 개발 과정 없이 간단한 연동만으로도 빠르게 보안을 적용할 수 있다. 현재 네이버, 티빙, CJ E&M 등 150개 이상의 기업에서 도입해 프리미엄 콘텐츠를 보호하고 있다.
한편, 잉카엔트웍스는 딥페이크를 포함한 디지털 콘텐츠 범죄에 대응하기 위한 기술 개발과 솔루션 혁신에 힘쓸 계획이다.
이원지 기자 news21g@etnews.com
