정부가 오는 6월 3일 치러지는 제9회 전국동시지방선거를 앞두고, 딥페이크 영상과 음성을 이용한 조작 범죄에 대응하기 위해 인공지능(AI) 기반 탐지 기술을 본격적으로 활용합니다.
딥페이크는 딥 러닝(Deep-learning)과 가짜(Fake)를 합친 말로, AI를 이용해 진위를 구별하기 어려운 가짜 이미지나 영상을 만드는 기술입니다.
최근 특정인의 얼굴이나 목소리를 정교하게 합성한 딥페이크 범죄가 늘면서, 선거 과정에서 후보자의 모습이나 발언을 조작한 허위 정보가 유권자의 판단을 흐릴 가능성이 커지고 있습니다.
중앙선거관리위원회에 따르면, 선거 기간 딥페이크 영상 삭제 요청 건수는 2024년 제22대 총선 당시 388건이었지만, 2025년 대통령선거에서는 1만510건으로 크게 늘었습니다. 이에 정부는 선거를 앞두고 딥페이크 기반 허위 정보 확산 위험이 커지고 있다고 판단하고 대응 기술 도입을 추진했습니다.
이번에 적용되는 AI 딥페이크 탐지 모델은 행정안전부와 국립과학수사연구원이 공동으로 개발했습니다. 이 모델은 지난해 12월 열린 '딥페이크 범죄 대응을 위한 AI 탐지 모델 경진대회' 성과를 바탕으로 만들어졌으며, 당시 대회에는 268개 팀, 1,077명이 참여했습니다.
탐지 모델은 영상 전체 흐름을 분석하는 '전역 분석'과 얼굴 등 특정 부위의 조작 흔적을 판별하는 '국소 분석'을 동시에 수행해 정확도를 높였습니다. 최신 생성형 AI 기반 콘텐츠에도 대응할 수 있도록 설계됐으며, 실제 검증 결과 약 92%의 탐지 정확도를 기록했습니다. 이는 이전 모델의 76%보다 크게 향상된 수준입니다.
선거 기간에는 의심되는 영상이나 음성 콘텐츠를 신속하게 감정하고 분석할 수 있는 체계도 운영됩니다. 행안부와 국과수는 앞으로 AI 딥페이크 분석 모델의 활용 범위를 단계적으로 확대할 계획이며, 성평등가족부, 방송통신위원회, 경찰청 등 관계 부처와 협력해 범정부 차원의 디지털 범죄 대응 체계도 강화할 예정입니다.
윤호중 행정안전부 장관은 시연회에서 “딥페이크는 단순한 기술 문제가 아니라 민주주의를 흔들 수 있는 새로운 정보 범죄”라며, “선관위, 경찰청, 국과수 등 관계기관과 긴밀히 협력해 허위·조작 정보에 적극 대응하고 국민이 신뢰할 수 있는 공명선거 환경을 만들겠다”고 밝혔습니다.
최성훈 기자 csh87@etnews.com
