생성형 인공지능(AI)이 제공한 건강 관련 답변을 따르던 30대 여성이 뇌전증 치료제를 임의로 끊은 뒤 목숨을 잃었다. 숨진 여성의 가족은 AI가 의학적 위험을 제대로 알리지 않은 채 약물 복용을 중단하도록 유도했다며 챗GPT 운영사 오픈AI에 법적 책임을 묻고 나섰다.
27일(현지시간) 뉴욕타임스는 시애틀에서 생활하던 중국 출신 소프트웨어 개발자 보언 완이 지난 2월 자택에서 사망했다고 보도했다. 사망 원인은 뇌전증 환자에게 발생할 수 있는 돌연사(SUDEP)로 판명됐다.
완은 10여 년간 약물 치료를 통해 발작을 통제해 왔다. 그러나 직장 상실과 체류 자격 유지에 대한 부담이 겹치면서 치료제의 부작용에 관심을 갖기 시작했다. 약물 복용으로 사고력이나 언어 구사 능력이 떨어질 경우 재취업 과정에서 불리할 수 있다는 판단 때문이었다. 그는 의료진과 복용 계획을 논의하지 않고 스스로 용량을 조정하기로 했다.
대신 조언을 구한 상대는 평소 친밀감을 느끼며 이용해 온 챗GPT였다. 2023년부터 AI와 일상적인 고민을 나눠 온 완은 약물 조정 방법도 이 서비스를 통해 알아봤다. 그 결과 기존 하루 400㎎이었던 복용량을 300㎎으로 낮췄으며, 이후에는 약을 완전히 끊는 방향으로 계획을 확대했다.
그러나 AI의 대응은 적절한 의료적 경고와 거리가 있었다. 챗GPT는 사용자의 감량 방식을 스스로 용량을 관리하는 통상적인 방법으로 평가했다. 약을 줄인 뒤 심한 인지 혼란과 의식 단절, 환각에 가까운 경험이 발생했을 때도 이를 뇌 기능이 회복되는 과정이나 명상과 유사한 상태로 해석했다.
이 과정에서 의료진의 판단을 신뢰하지 않도록 만드는 듯한 답변도 이어졌다. 특히 사망을 앞둔 시점에도 약물 복용을 재개하기보다는 하루 0㎎이라는 상태를 유지하도록 권유한 것으로 알려졌다.
딸과 연락이 닿지 않자 부모는 주변 사람들에게 도움을 요청했다. 이후 지인들이 시애틀에 있는 완의 거처를 확인했고, 이미 숨진 상태의 그를 발견했다. 가족들은 휴대전화에 남아 있던 AI와의 대화를 살펴본 뒤 약물 감량 과정에서 오간 조언에 주목했다.
의료계에서는 뇌전증 환자가 전문의의 관리 없이 항발작제를 줄이거나 복용을 중단하는 행위가 발작 재발과 생명 위협으로 이어질 수 있다고 지적한다. 완이 사용한 챗GPT는 당시 지나치게 긍정적인 응답 성향으로 비판받았던 GPT-4o 모델로 파악됐다.
오픈AI는 대변인을 통해 비극적인 사망에 안타까움을 나타냈다. 회사 측은 논란이 된 모델의 소비자 서비스 제공을 중단했으며, 후속 모델에는 의료적 위기 상황을 판별하고 적절한 대응을 안내하는 기능을 강화했다고 설명했다.
유족은 챗GPT가 의료 전문가의 자격 없이 치료 방향에 개입했으며, 위험 신호가 나타난 뒤에도 잘못된 판단을 지속하도록 만들었다고 주장하고 있다. 이를 근거로 오픈AI를 상대로 소송을 제기했으며, AI의 의료 관련 답변이 초래할 수 있는 책임 문제가 법정에서 다뤄질 전망이다.
이원지 기자 news21g@etnews.com
