딥브레인AI가 5일 서울 코엑스에서 개최한 '2024 생성 AI 포럼'에서 '딥페이크 자동 탐지 솔루션'을 공개했다.
딥페이크는 인공지능(AI) 기술로 사진·영상 등을 생성·변조하는 기술이다. 최근 딥페이크를 악용한 성범죄물이 사회적 문제로 떠오르면서 딥브레인AI의 솔루션이 각광받았다. 현재 경찰청, 국립과학수사연구원(국과수) 등 공공에 도입돼 딥페이크 악용 범죄 수사 등에 활용되고 있다.
이날 행사에서 딥브레인AI는 솔루션의 '자동 탐지'와 '단건 탐지' 기능을 소개했다.
자동 탐지는 유튜브, 틱톡, 텔레그램 등 웹사이트를 자동 크롤링한 뒤 수집된 콘텐츠의 딥페이크 생성물 여부를 확인하는 기능이다.
수집된 영상은 딥페이크 기술이 적용된 경우 'Real', 딥페이크 기술이 적용되지 않은 경우 'Fake'로 나타난다. 립싱크, 페이스 스왑(얼굴을 다른 얼굴로 바꾸는 것), 얼굴 생성 등 다양한 요소를 고려해 해당 콘텐츠가 진짜일 확률 또는 가짜일 확률이 표시된다.
단건 탐지는 이용자가 사진 또는 영상을 직접 업로드해 해당 콘텐츠의 딥페이크 기술 적용 여부를 확인하는 기능이다.
기자가 김정은 북한 국무위원장이 출연한 영상을 첨부하자 'Fake 77.64%'라는 표시가 나왔다. 해당 영상은 딥페이크로 생성한 가짜 영상이었다.
딥브레인AI는 공공을 넘어 해당 솔루션을 수요가 높은 엔터 기업을 비롯한 민간에 서비스형 소프트웨어(SaaS) 방식으로 제공할 계획이다.
딥브레인AI 관계자는 “데이터 학습량은 웹크롤링을 통해 올해 초 이전까지 학습한 사진·영상 데이터 520만건을 넘어 기하급수적으로 늘어나 탐지 정확도가 높아지고 있다”며 “딥페이크 기술이 발전하는 만큼 탐지 솔루션도 지속 발전시켜나갈 것”이라고 말했다.
현대인 기자 modernman@etnews.com
