인공지능(AI) 기술 발전에 따라 딥페이크(합성)를 통한 사기 범죄가 기승을 부리고 있다. 딥페이크를 막기 위한 신원 확인이 주요 이슈로 대두될 전망이다.
홍콩 경찰당국은 한 다국적 기업이 딥페이크 기술에 속아 2600만달러(약 350억원)를 갈취 당하는 사건이 발생했다고 5일(현지시간) 밝혔다.
딥페이크는 영어 단어 딥러닝과 페이크(가짜)의 합성어다. AI 기술을 기반으로 창조한 가짜 이미지, 오디오, 비디오 등을 의미한다.
사기꾼들은 딥페이크를 활용해 이 다국적 기업 최고재무책임자(CFO) 등 회사 경영진을 창조한 다음 화상회의에 재무 담당 직원을 초대해서 이체를 지시했다. 재무 담당 직원은 경영진 모습과 목소리가 실존 인물들과 똑같아 의심하지 못했다. 5개 홍콩 은행 계좌로 15번에 걸쳐 이체가 이뤄졌다.
홍콩 경찰당국은 “이 회사 직원은 고위 간부로 가장한 누군가로부터 지정된 은행 계좌로 돈을 이체하라는 화상회의 전화를 받았다”고 설명했다. 그러면서 “아직 수사가 진행 중이고, 현재까지 체포된 사람은 없다”고 덧붙였다.
사기꾼들은 유튜브를 통해 사칭 대상 비디오와 오디오를 찾았고, 딥페이크 기술을 사용해서 그들을 모방했다. 딥페이크 영상은 사전 녹화돼 피해자와 대화 등 상호작용은 없었다.
딥페이크 기술 발전에 따라 신원 확인이 점차 어려워질 전망이다. 글로벌 IT 컨설팅 업체 가트너는 오는 2026년에는 AI 딥페이크로 인해 기업의 30%가 신원 확인과 얼굴 생체 인증 솔루션을 단독으로 사용할 수 없을 것으로 예측했다. 여러 솔루션을 복합적으로 사용해야만 리스크를 줄일 수 있다는 의미다.
아키프 칸 가트너 VP 애널리스트는 “딥페이크는 악의적인 공격자가 생체 인증을 약화시키거나 비효율적으로 만드는데 악용될 수 있다”면서 “조직은 인증 대상자 얼굴이 실제 사람인지 딥페이크인지 구분할 수 없기 때문에 신원 확인 및 인증 솔루션 신뢰도에 의문을 제기하기 시작할 것”이라고 말했다.
류태웅 기자 bigheroryu@etnews.com
