미국에서 인공지능(AI)을 이용해 여성의 가짜 누드를 만드는 딥페이크 앱과 웹사이트 이용자가 폭증하면서 범죄 악용 우려가 커지고 있다.
10일(현지시간) 블룸버그통신에 따르면 소셜네트워크 분석 기업 그래피카(Graphika)는 지난 9월 한 달 동안 2400만명이 딥페이크 웹사이트를 방문했다고 전했다.
누디파이(nudify)라고 불리는 해당 서비스는 올해 초부터 급증하기 시작했다.
딥페이크 앱과 웹사이트는 AI를 사용해 사진 속 사람이 옷을 벗고 있는 것처럼 이미지를 만들며 상당수 앱은 여성의 이미지만을 변환할 수 있는 것으로 전해졌다.
딥페이크로 포르노물을 만드는 웹과 앱 서비스는 범죄에 악용될 우려가 있다. 대부분 당사자 동의나 인지 없이 나체 사진 같은 음란물을 만들어 이를 배포하고 있기 때문이다. 심지어 일부 광고에서는 '타인의 나체 이미지를 만들어 그 사람에게 보낼 수 있다'는 내용을 대놓고 홍보하기도 하는 것으로 알려졌다..
개인정보 보호 전문가들은 AI 기술의 발전으로 딥페이크 소프트웨어가 더 쉽고 더 효과적으로 만들어졌다고 우려한다.
이에 다수의 IT 기업은 철저한 모니터링을 통해 유통되는 경우를 사전에 차단하겠다는 입장이다. 구글은 “성적으로 노골적인 콘텐츠는 허용하지 않고 있다”며 “문제가 된 광고들을 검토하고 있고 정책을 위반한 것들은 삭제 중”이라고 했다. 동영상 플랫폼 틱톡도 '옷 벗기'(undress)라는 키워드를 차단하고 있다고 전했다.
전자신문인터넷 이원지 기자 news21g@etnews.com
