챗GPT를 통한 부적절한 대화가 청소년의 자해나 사망에 기여했다는 혐의로 일련의 소송에 직면한 오픈AI가 10대 사용자를 위한 추가적인 안전 기능을 제공하는 챗봇 서비스를 내놨다.
오픈AI는 청소년들의 학습을 돕고 안전장치를 대폭 강화한 '청소년용 챗GPT'(ChatGPT for Teens) 모드를 18일(현지시간) 출시했다.
이용자가 자신의 나이를 13~17세로 입력하거나, 시스템이 이용자 연령을 18세 미만으로 추정하면 해당 계정은 자동으로 청소년용 챗GPT 모드로 변경 적용된다.
청소년용 모드는 자해, 폭력, 섭식장애, 위험 행동, 성적·노골적 콘텐츠 등에 대해 청소년이 질문하거나 대화를 시도할 때 답변 출력을 강하게 통제하는 안전장치가 적용됐다.
이용자가 민감하거나 사적인 사진을 올릴 때 주의를 주는 기능도 탑재됐다.
특히 청소년용 모드는 챗GPT가 인간처럼 행동하며 정서적 교감을 자극하거나 의존증을 유발하는 행동을 못 하도록 차단하기도 했다.
로맨틱한 분위기의 단어나 표현을 사용할 수 없으며, 정서적 유착을 유도할 수도 없다. 챗봇이 감정이나 자의식을 가진 인격체인 것처럼 묘사하는 행동도 금지했다.
부모의 관리 도구도 강화해 자녀의 챗GPT 사용을 아예 차단하는 '방해금지 시간'(Quiet Hours)이나 공부 모드를 기본값으로 설정하는 '공부 시간'(Study Hours)을 설정할 수 있다.
공부 모드는 청소년들이 숙제할 때 챗GPT가 제공하는 정답만 베끼는 부정행위를 막는 장치를 추가한 것이다.
이용자가 질문을 하더라도 단번에 요약이나 답변을 제공하는 대신 도로 질문을 던지거나 단계별 원리를 짚어가며 해법을 찾도록 돕는 방식이다.
오픈AI는 아동·교육 전문가들의 연구를 바탕으로 공부 모드를 설계했다고 설명했다.
부모가 '공부 시간'으로 설정하지 않은 경우에도 숙제의 지름길만을 찾으려는 청소년의 의도를 감지해 공부 모드로 전환하는 '책임감 있는 숙제 알리미' 기능도 장착했다.
이처럼 오픈AI가 안전장치를 대폭 추가한 청소년용 챗봇을 내놓은 것은 기업공개(IPO)를 앞두고 사법 리스크를 해소하기 위한 것으로 풀이된다.
챗GPT와 교류하던 10대 청소년들이 자해 또는 극단적 선택을 하거나, 챗GPT를 이용해 총기 난사나 살해 등 범죄 모의를 한 사례가 나타나면서 오픈AI는 현재 여러 건의 관련 소송에 직면해 있다.
정현정 기자 iam@etnews.com
