생성형 인공지능(AI)을 활용해 기시다 후미오 일본 총리가 등장하는 허위 동영상을 제작한 20대 일본인이 이번에는 전현직 총리의 목소리를 흉내 내는 가짜 음성 낭독 애플리케이션을 만들었다.
22일(현지시간) 요미우리신문은 앱에 문장을 입력하면 기시다 총리 등의 가짜 음성으로 낭독시키는 구조로, 스마트폰 등에서 무료로 사용할 수 있다.
이 앱에서는 기시다 총리 외에 아베 신조, 스가 요시히데 등 전직 총리의 가짜 발언을 작성할 수 있는 것도 공개돼 있다. 각각 3명의 얼굴 사진이 표시되며 입력란에 문장을 치면 3명과 비슷한 음성으로 문장이 자동 낭독된다.
현재 SNS에는 해당 앱으로 만든 것으로 추정되는 거짓 발언이 올라오고 있는 것으로 전해졌다.
이 앱은 혼슈 서부 효고현에 거주하는 20대 남성이 개발한 것으로, 온라인에서 확보한 전현직 총리의 연설 동영상을 AI에 학습시켜 허위 음성을 만들었다고 밝혔다.
이어 그는 “나와 똑같이 정치가들을 깔보는 패러디를 만드는 사람이 나타나길 바란다고 생각했다”고 말했다.
앞서 이 남성은 AI로 전현직 총리의 가짜 동영상을 만들어 유포했다.
최근 일본에서는 AI 기술을 이용해 기시다 총리의 목소리를 재현한 것으로 보이는 가짜 동영상이 소셜미디어에서 확산된 바 있다.
이에 대해 마쓰노 히로카즈 관방장관은 “정부의 정보를 거짓으로 발신하는 것은 경우에 따라서는 민주주의의 기반을 손상시킬 수도 있기 때문에 행해져서는 안 된다”고 지적했다.
야마구치 신이치 고쿠사이대 교수는 “정치인의 거짓 동영상과 거짓 음성은 쉽게 혼란을 일으킬 수 있다”며 선전이나 선동에 이용되면 국제 문제로도 발전할 수 있다고 지적했다.
전자신문인터넷 이원지 기자 news21g@etnews.com
