국립성착취예방센터 “18세 미만 차단해야”
일론 머스크가 설립한 인공지능(AI) 스타트업 xAI의 챗봇 '그록'이 선정성 논란에 휩싸였다.
xAI는 4일(현지시간) 이미지 및 비디오 생성기인 '그록 이매진'(Grok Imagine)을 공식 출시했다. 수퍼그록(SuperGrok), 엑스 프리미엄 플러스(Premium+) 등 유료 멤버십 가입자가 이용할 수 있는 기능으로 iOS 앱에서 서비스하고 있다.
그록 이매진은 텍스트나 이미지 프롬프트를 입력하면 최대 15초 분량의 영상을 생성한다. 구글 '비오', 오픈AI '소라', 어도비 '파이어플라이' 등과 비슷한 서비스다.
문제는 그록 이매진에 포함된 '매운맛(스파이시 · Spicy)' 모드다. 영상을 생성할 때 사용자는 사용자 지정(Custom), 일반(Normal), 재미(Fun), 매운맛 중 하나의 옵션을 선택할 수 있는데, 매운맛을 선택하면 노출이 많거나 성적 대상화하는 애니메이션을 만들어낼 수 있다.
'매운맛' 옵션을 선택하면 생년월일을 입력해야 하지만, 본인 인증을 요구하지 않기 때문에 사실상 연령제한이 없는 셈이다. 또한 직접 만들지 않더라도 이 영상을 엑스에 공유하고 있어 문제가 되고 있다.
머스크는 그록을 통해 만들었다며 6초짜리 영상을 공유했다. 날개를 달고 노출이 많은 옷을 입은 여성이 움직이는 모습이 묘사됐다. 머스크는 그록 이매진으로 현재까지 3400만 개 이상의 이미지가 생성됐다고 밝혔다.
그록은 지나치게 선정적인 이미지는 블러 처리해 흐릿하게 생성한다. 다만 IT 전문매체 테크 크런치는 “얼마나 노골적으로 표현할 수 있는지는 한계가 있지만, 얼마든지 우회할 수 있는 수단이 있다. 실제로 반나체 이미지를 생성할 수 있었다”고 전했다.
또한 일부를 제외하고는 유명인의 사진으로도 영상을 제작할 수 있어 딥페이크에 대한 우려도 커졌다.
xAI는 이전에도 선정성 논란에 휩싸인 바 있다.'AI 캠패니언(동반자)' 기능을 통해 선보인 캐릭터 '애니'가 망사 스타킹과 얇은 란제리 옷차림으로 묘사됐기 때문이다. 미 국립성착취예방센터(NCOSE)는 “미성년자도 애니와 대화할 수 있다”며 xAI에 애니 캐릭터를 삭제하거나 애플에 그록 앱 이용 연령 제한을 18세로 바꿔야 한다고 요구했다.
서희원 기자 shw@etnews.com
