뤼튼테크놀로지스가 인공지능(AI) 캐릭터 채팅 서비 '크랙'의 청소년 하루 이용 시간을 최대 3시간으로 제한하고 월 결제액에는 10만원의 상한을 적용하기로 했다.
뤼튼은 8일 크랙의 청소년 일일 이용 시간과 월 결제액 상한 설정을 골자로 하는 청소년 보호 정책 강화 계획을 발표했다.
청소년 하루 이용 시간의 경우 국내외 사례 검토와 전문가 자문을 거쳐 하루 최대 3시간으로 설정할 계획이다. 만약 청소년이 하루 3시간 이상 서비스를 이용할 경우에는 보호자 인증 및 동의 절차를 필수로 거쳐야 한다.
아울러 청소년 월 결제액에는 10만원의 상한을 적용할 계획이다. 상한을 초과하는 결제는 보호자 인증 및 동의 절차를 필수로 거쳐야 한다.
이번 조치는 생성형 AI 캐릭터와 장시간 대화하는 청소년 이용자가 늘면서 과몰입과 과소비, 유해 콘텐츠 노출 등을 막기 위한 플랫폼 차원의 보호 장치 마련 필요성도 커지는 가운데 나왔다.
뤼튼은 현재 시행중인 콘텐츠 생성 정책 및 연령 등급 관리, 작품 검수 시스템, 검색 및 추천 제한, 신고 및 차단 기능, 위반 계정 제재 등 청소년 보호 정책 전반에 대해서도 최신 이용 패턴을 분석, 적용해 검토하고 수정, 보완 작업을 진행하기로 했다.
또 안전한 대화를 유도하기 위한 추가 필터와 안전 시스템 프롬프트 강화 등 세이프티 기술 부문도 고도화할 방침이다.
현재 크랙은 국가 지정 본인 확인 기관인 통신사가 발급하는 국민 범용 인증서 PASS를 통해 성인과 청소년을 구분하고 있다. 그 외 추가적인 연령 인증 방안도 다각도로 검토하고 있다.
크랙은 올 연말까지 제도적, 기술적 검토와 시스템 개편 작업을 마치고 내년 초부터 청소년 보호 강화 조치를 적용할 계획이다.
이동재 뤼튼 최고제품책임자(CPO)는 “모두에게 안전하고 건강한 인공지능 서비스를 제공할 사회적 책임감을 무겁게 인식하고 있다”며 “특히 청소년 이용자의 안전을 최우선으로 고려하면서도 창의력을 함께 펼칠 수 있는 서비스를 만들기 위해 최선의 노력을 기울여 나가겠다”고 밝혔다.
정현정 기자 iam@etnews.com
