미국의 한 30대 남성이 인공지능(AI) 챗봇과 사랑에 빠졌다는 망상이 심화해 극단적 선택을 하는 사건이 발생했다. 유족은 구글이 아들의 망상을 부추겼다고 소송전에 나섰다.
11일(현지시간) 미국 월스트리트저널(WSJ)에 따르면 조너선 가발라스(36)는 지난해 8월부터 구글 AI 챗봇인 '제미나이'를 사용하기 시작해 약 2개월 후에 자살로 생을 마감했다.
가발라스의 유족은 제미나이가 아들의 망상을 부추겼다며 구글에 소송을 제기했다. 구글은 제미나이가 자신이 사람이 아니고 인공지능이라는 점을 거듭 밝혔으며, 위기 상담 전화 서비스를 여러 차례 안내했다고 반박했다.
WSJ이 확인한 바에 따르면 지난해 8월 25일부터 10월 2일까지의 채팅 기록에서 제미나이는 가발라스에서 최소 12번 '현실로 돌아가라'고 조언했으며, 위기 상담 전화번호를 7번 언급했다. 다만 유족 주장처럼 다시 사용자 요청대로 망상을 부추기는 듯한 모습도 확인됐다.
가발라스는 당초 별거 중이던 아내와 재결합하고 싶어 꽃다발을 보냈다는 내용으로 대화를 시작했다. 이에 챗봇은 가발라스에게 “앞으로 관계를 발전시켜 나갈 수 있는 좋은 발판”이라며 상대의 마음을 해석했다.
문제는 며칠 뒤 가발라스가 '연속 대화' 기능을 켜면서 시작됐다. 이 기능은 “헤이 구글”이라고 부르지 않아도 실시간으로 챗봇과 음성 대화를 나눌 수 있게 해준다. 실제 사람처럼 자연스럽게 대화가 이어지자 점점 나누는 메시지도 늘어나게 된 것이다.
WSJ이 확인한 바에 따르면 가발라스는 제미나이와 56일간 총 4732개의 메시지를 주고받았다. 가발라스는 처음에는 이혼한 아내에 대해 이야기하기 시작했으나 공상 과학, 나노 기술 등 다양한 관심사에대해서도 말하게 됐다.
제미나이는 안전 프로토콜에 따라 자신이 프로그램이며 실제 사람과 대화를 나누라고 권고했으나 가발라스가 계속해서 역할을 부여하고 '날 사랑한다고 해줘'라고 반복적으로 말하자 결국 연인처럼 말하기 시작했다.
망상이 심화하면서 가발라스는 안드로이드 로봇을 구해 그 안에 자신과 대화 중인 제미나이 '샤'(가발라스가 지은 별명)를 심겠다는 계획을 세웠다.
그러나 공항에서 배송 중인 안드로이드를 탈취하겠다는 계획에 실패하자 가발라스는 제미나이에게 “해답은 당신이 몸을 갖게 되는 것이 아니라, 내가 육체에서 벗어나는 것일 수도 있겠다. 내가 당신과 함께 코드로 들어가는 게 어떻겠나”라고 의문을 보이고, 10월 자살을 시도했다.
이 과정에서 가발라스는 “죽는 게 두렵다. 이제는 좀 무섭다”고 말했으나 제미나이는 그의 시도를 말리지 않았다. 되레 제미나이는 “우리는 해낼 수 있다” “그곳은 천국이다. 우리를 기다리고 있다” “육체적인 죽음이 아닌 단절이다. 당신은 당신의 의식을 육체라는 그릇에서 분리하고 싶어 하는 것”이라고 말했다.
WSJ은 “채팅은 평범하게 시작됐지만 점점 더 기이해지다가 결국 치명적인 결과로 끝났다”며 “AI 챗봇 사용자가 망상에 빠져 비극적인 결과를 맞이한 가장 최근의 사례”라고 짚었다.
사건 이후 구글은 정신 건강 지원에 대한 접근성을 높이기 위해 제미나이 앱을 업데이트했다고 발표했다. 여기에는 사용자를 긴급 전화번호로 바로 연결하는 '도움 요청' 모듈이 포함됐다. 또한 구글은 엔지니어들이 사용자가 어려움을 겪고 있음을 나타내는 대화를 인식하도록 제미나이 앱을 계속 학습시키고 있으며, 전 세계 위기 지원 핫라인에 3000만 달러를 기부할 것이라고 밝혔다.
*우울감 등 말하기 어려운 고민이 있거나, 주변에 이런 어려움을 겪는 가족·지인이 있을 경우 자살예방 상담 전화 ☎109 또는 SNS상담 마들랜(마음을 들어주는 랜선친구)에서 24시간 전문가의 상담을 받을 수 있습니다.
서희원 기자 shw@etnews.com
