인공지능(AI) 기술로 제작한 가짜 참전 용사 영상으로 소비자의 동정심을 자극해 저품질 상품을 판매하는 이른바 '동정 사기(Pity Scam)'가 온라인상에서 급증하고 있다고 최근 영국 BBC 방송이 보도했다.
영국 윌트셔주 브래든스토크에 거주하는 육군 참전 용사 레이먼드 길버트(63) 역시 동정 스캠의 피해자가 됐다. 그는 최근 틱톡을 둘러보던 중 부상 당한 전직 군인이 생계를 위해 차고에서 목공예로 국기를 만든다는 영상에 속아 154.99파운드(약 28만원)를 내고 제품을 구입했다. 아프가니스탄 등지에서 품질 관리자로 복무했던 그는 영상 속 인물의 이야기에 깊이 공감해 외부 웹사이트로 이동해 구매를 진행했다고 한다.
그러나 며칠 뒤 도착한 소포에는 중국어가 적혀 있었으며, 제품 역시 손수 제작한 나무 국기가 아닌 저렴한 합판에 이미지를 인쇄해 붙인 조악한 물건이었다. 길버트는 “AI 기술은 발전하는데 인간의 도덕성은 퇴보하고 있다”며 “사람들의 동정심을 이용하는 비열하고 끔찍한 사기 수법”이라고 분통을 터뜨렸다.
BBC에 따르면 틱톡 내에서만 유사한 수법을 사용하는 계정이 45개 이상 발견됐으며, 페이스북과 인스타그램, 유튜브 등 주요 소셜 미디어 플랫폼 전반에서도 비슷한 영상이 다수 확인됐다. 사기범들은 부상당한 군인의 모습을 본뜬 AI 영상을 제작해 가방, 도마, 장식품 등을 판매하는 사이트로 연결했다.
기술 전문가 윌 가이엇은 “과거에는 AI 영상에서 손가락이 6개로 나오거나 물체가 어색하게 변형되는 등의 허점이 있었으나, 최근에는 실사와 구별하기 힘들 정도로 정교해졌다”며 “단 몇 분 만에 감정적인 자막과 영상을 만들어내고, 댓글 창에는 수십 개의 봇 계정을 동원해 구매를 유도한다”고 분석했다.
전문가들은 이러한 AI 사기 영상에 속지 않으려면 다음과 같은 주의 사항을 확인해야 한다고 조언했다. △영상 속 인물의 손가락 수나 주변 물체가 자연스러운지 확인 △같은 상품이나 영상이 다른 온라인 사이트에서 판매되고 있는지 검색을 통한 재확인 △조건이 지나치게 좋거나 감정에 호소하는 경우 인터넷에 익숙한 주변 사람에게 확인하라고 조언했다.
법률 및 소비자 보호 전문가들은 사기 판매자들이 법적 규제를 피하기 위해 해외 플랫폼을 활용하고 있어 환불이나 처벌이 쉽지 않다고 지적했다. 한 계정이 삭제되더라도 새로운 계정을 만들어 동일한 수법을 반복하기 때문에 사실상 방어가 어려운 실정이다.
참전 용사 지원 단체들과 실제 퇴역 군인들 역시 깊은 우려를 표했다. 참전 용사 지원 단체 '헬프 포 히어로즈(Help for Heroes)'의 스펜서 불은 “이러한 사기행위는 실제 도움이 절실한 참전 용사들과 지원 단체 사이의 신뢰를 깨뜨리고, 사회적 지원이 전혀 없는 것처럼 오인하게 만들어 후원 문화를 위축시킨다”고 경고했다.
한편, BBC로부터 관련 정보를 전달받은 틱톡, 메타(페이스북·인스타그램 운영사), 유튜브 측은 허위 정보, 스팸 및 사기 관련 정책 위반을 이유로 적발된 해당 계정과 관련 콘텐츠를 즉시 삭제 또는 정지 조치했다고 밝혔다.
서희원 기자 shw@etnews.com
