美, 가짜전화로 유권자 혼란
국내도 AI 악용 가능성 높아
허위정보 차단 선제조치 필수
인공지능(AI)을 악용한 딥보이스·딥페이크 사건이 미국 사회를 뒤흔들면서 4월 국회의원 총선거를 앞둔 우리나라에도 비상등이 켜졌다.
사람의 시·청각을 감쪽같이 속일 정도로 고도화한 AI 기술을 여론 왜곡에 악용할 경우, 과거 포털 실시간검색어 조작과는 비교할 수 없는 혼란이 발생할 수 있기 때문이다.
전문가들은 선거 국면을 맞아 한·미 빅테크 기업 협의체를 꾸려 대응해야 한다고 제언했다.
29일 외신에 따르면, 최근 미국 뉴햄프셔주 민주당 프라이머리(예비경선)에서 '투표하지 말라'는 바이든 대통령의 가짜전화가 유권자에게 혼란을 준 데 이어 테일러 스위프트의 얼굴 사진을 합성한 음란한 이미지가 온라인상에 퍼져 파장을 일으켰다.
일반인도 애플리케이션을 통해 딥보이스·딥페이크를 손쉽게 제작할 수 있어 누구든지 마음만 먹으면 범죄에 악용할 수 있다는 사실이 여실히 드러났다는 분석이다. 더욱이 한국 정치는 양 진영이 극단 대립으로 치닫고 극성 지지층에 몸살을 앓고 있어 이번 총선에서 AI 악용 가능성이 높게 점쳐진다.
국가정보원도 선거 결과에 영향을 미치고 국론분열을 조장하기 위해 사회관계망서비스(SNS)를 통한 가짜뉴스·딥페이크 영상 유포 등을 올해 위협 전망 중 하나로 지목했다.
백종욱 국정원 3차장은 최근 기자간담회에서 “올해는 우리나라 총선을 비롯해 세계 인구 절반 이상이 투표하는 슈퍼선거의 해”라면서 “가짜뉴스·허위정보 유포 등 영향력 공작에 대한 철저한 대비가 절실한 시점”이라고 말했다.
중앙선거관리위원회가 1월 29일부터 선거일까지 딥페이크 영상을 활용한 선거운동을 금지하는 등 대책 마련에 나섰지만, 실효성엔 의문부호가 붙는다. 선관위가 현실적으로 모든 영상을 모니터링할 수 없고 기술적으로도 딥페이크를 100% 잡아내는 데 한계가 있다. 또 가상사설망(VPN)을 통한 해외 인터넷프로토콜(IP)의 딥페이크 공격 등을 제재하긴 어렵다.
김명주 서울여대 바른AI연구센터장은 “일반인도 딥페이크 등 AI를 사용할 수 있어 얼마든지 활개를 칠 수 있다”며 “영상 진위여부를 밝히는 데 시일이 걸리기 때문에 선거일이 얼마 안 남은 기간에 집중적으로 AI를 악용한 혼탁한 선거전이 벌어질 것”이라고 내다봤다.
김 센터장은 “이번 총선이 온 국민이 AI의 폐단을 몸소 체험하는 계기가 될 수 있다”면서 “(AI 부작용에 대한 국민 공감대가 형성되면) 글로벌 스탠다드보다 더 심한 규제가 이뤄져 우리나라 AI 산업을 위축시킬 수 있다”고 우려했다.
딥페이크가 민주주의 근간을 흔드는 것은 물론 자칫 AI 산업을 옥죄는 도화선이 될 수 있다는 우려로 인해 선제적 조치가 필요하다는 목소리가 높아진다.
딥페이크 영상이 국내 대형 플랫폼 네이버·카카오와 함께 유튜브(구글), 인스타그램·페이스북(메타) 등 미국 빅테크 플랫폼에서 유통되므로 한미 빅테크 기업 협의체 구성이 현실적인 대책으로 거론된다. 특히 정부 규제가 아닌 민간 기업의 자율 정책을 통한 대응이 필요하다는 데 힘이 실리고 있다.
임종인 고려대 정보보호대학원 석좌교수는 “한미정상이 지난해 미국 캠프 데이비드에서 AI 등 사이버 위협 대응에 합의했다”며 “나아가 선거 국면을 맞아 한·미 빅테크 기업 협의체가 특정일부터 선거일까지 허위·조작정보로 의심되는 콘텐츠는 원천적으로 차단하는 등 공동 대응에 나설 필요가 있다”고 말했다.
조재학 기자 2jh@etnews.com
