생성형 인공지능(AI)을 이용하는 청소년 절반 이상이 스스로 AI에 의존적이라고 인식하는 것으로 나타났다. 이에 정부는 AI의 답변을 의학적 진단으로 받아들이거나 정서적으로 지나치게 의존하지 않도록 정신건강 목적의 AI 이용 가이드라인을 마련했다.
보건복지부와 대한신경정신의학회는 정신건강의 날을 앞두고 8일 '정신건강 목적 생성형 AI 이용 가이드라인'을 발표했다. 모든 이용자를 위한 공통 지침과 아동·청소년 및 보호자용 지침 등 2종이다.
한국보건사회연구원이 8월 25일부터 9월 4일까지 최근 한 달 이내 생성형 AI를 이용한 15~79세 1019명을 조사한 결과 응답자의 68.8%가 일상 대화와 감정적 교감·위로 등 정서적 목적으로 AI를 이용했다.
청소년인 15~18세 응답자 201명 중 정서적 목적 이용 비율은 69.2%였다. 주변 사람과 비교해 자신이 AI에 의존적이라고 답한 비율은 51.7%로 전체 연령대 중 가장 높았다.
청소년 응답자의 83.1%는 보호자가 자신의 AI 이용 사실을 알고 있다고 답했지만 보호자와 이용 규칙을 함께 정한 경험은 2.5%에 그쳤다.
AI의 조언을 의학적 판단으로 받아들이는 사례도 확인됐다.
전체 응답자의 14.6%는 AI와의 대화를 바탕으로 자신을 특정 정신질환으로 판단하거나 AI 답변을 의학적 진단처럼 받아들인 경험이 있었다. 자신의 정신건강이 나쁘다고 인식한 응답자에서는 이 비율이 33.9%로 높아졌다. 반면 AI에서 얻은 정신건강 정보를 전문가나 공식 자료로 확인한 경험은 전체의 11.9%였다.
이용 조절에 어려움을 겪거나 중요한 결정을 AI에 의존하는 경향도 나타났다. 정신건강·심리상담 목적으로 AI를 이용한 449명 중 23.4%는 현실의 일에 집중하려 해도 AI와 대화를 계속 이어간다고 답했다. 17.8%는 주변 사람과 상의하지 않고 AI 조언을 바탕으로 퇴사·이별 등 중요한 결정을 내린 경험이 있었다.
가이드라인은 △이용 전 서비스와 개인정보 처리방식 확인 △AI 답변을 의학적 판단으로 수용하지 않기 △AI와 적정한 거리를 유지하고 사람에게 도움 구하기 등 세 가지 핵심 메시지와 21개 권고문을 담았다.
구체적으로 서비스의 목적과 효과에 대한 근거를 확인하고 개인정보가 담긴 진단서·처방전·검사결과지 등을 입력하지 않도록 권고했다.
대화 범위와 종료 시점도 미리 정하도록 안내했다. 정신건강 관련 정보는 전문가나 검증된 자료로 확인하고 중요한 결정은 믿을 수 있는 사람과 상의하도록 했다.
아동·청소년과 보호자에게는 각각 7개 권고사항을 제시했다. 아동·청소년은 AI 캐릭터를 실제 친구나 연인처럼 여기고 있지 않은지 점검하고 위험한 답변을 받으면 부모나 교사 등 믿을 수 있는 어른에게 알리도록 했다. 보호자에게는 이용을 무조건 금지하기보다 아이의 이용 목적과 방식을 이해하고 안전한 이용 규칙을 함께 정하도록 권고했다.
복지부는 교육·임상 현장에서 가이드라인을 활용할 수 있도록 교육 프로그램을 마련할 계획이다. 내년에는 중증정신질환자를 포함한 고위험군 특성을 고려한 맞춤형 가이드라인도 마련한다.
이선영 복건복지부 정신건강정책관은 “생성형 AI는 정보와 정서적 도움을 얻는 새로운 수단으로 활용할 수 있지만 친절하고 확신에 찬 답변이 항상 정확성이나 안전성을 보장하지 않는다”며 “이용자 교육을 확대하는 등 AI 전환기에 대응하는 정신건강 정책을 지속 강화하겠다”고 말했다.
배옥진 기자 withok@etnews.com
