구글은 자사 생성형 인공지능(AI) 모델 '제미나이'의 이미지 생성 서비스 중단한 이유를 다양성에 대한 과도한 민감성과 역사적 인물 등에 대한 오류 때문이라고 밝혔다.
구글은 사과하고 문제를 수정중이지만 정확한 서비스 재개 시기를 확답하지는 못했다.
구글 제미나이는 텍스트, 이미지, 음성, 영상을 생성하는 멀티모달 기반의 AI 모델인데, 역사적 인물에 대한 이미지를 잘못 생성한다는 오류 등을 이유로 이미지 생성 기능을 최근 일시 중지했다.
구글에 따르면 제미나이는 다른 생성형 AI 서비스처럼 폭력적이거나 지나치게 성적으로 노골적인 이미지를 생성할 수 없도록 하고, 생성된 사진에는 다양한 인종과 특성을 가진 사람들이 등장할 수 있도록 했다.
그러나 사용자가 특정 민족이나 성별로 보이는 사람들의 이미지 생성을 요청할 경우, 그렇게 할 수 있어야 하는데, 제미나이는 이를 거부한 것으로 확인됐다.
예를 들어 제미나이는 백인만 등장하길 요구하는 프롬프트 입력 메시지에 결과 생성을 거부했다. 다른 인종에는 반응했지만, 백인 이미지만을 요청하는 데는 효과가 없었다.
또 사용자가 제2차 세계대전 중 독일군의 이미지를 요청했는데, 제미나이는 나치 군복을 입은 흑인남성이나 여성 이미지를 생성했다. 역사적 사실까지 잘못 생성하며 다양성이 과잉 반영됐다는 지적이다.
구글은 자사가 반영하고자 했던 것보다 AI 모델이 다양성에 훨씬 민감하고 조심스러워졌다는 입장이다.
구글은 AI 모델이 이미지 생성 요청을 거부하거나 잘못 표기하지 않도록 수정하고 있으며, 광범위한 테스트를 진행하고 있다고 전했다. 하지만 서비스 재개 시기는 약속하지 못 했다.
구글 측은 “제미나이가 당혹스럽거나 부정확하고 공격적 결과를 생성하지 않을 것이라고 약속할 수 없다”며 “문제가 나올 때마다 지속적으로 조치를 취할 것이고, 이를 안전하고 책임감 있게 출시할 수 있도록 최선을 다하겠다”고 말했다.
김명희 기자 noprint@etnews.com
