네이버가 인공지능(AI)을 활용해 불법 성인 콘텐츠를 걸러 낸다. AI 이미지 모니터링 기술 '네이버 엑스아이(X-eye)'를 이미지 필터링에 적용했다. 연중 24시간 빈틈 없이 실시간 음란 이미지 차단이 가능해졌다. 추후 인터넷방송 등 동영상 콘텐츠까지 적용 범위를 늘린다.
네이버는 검색 결과 이미지 필터링에 '네이버 엑스아이'를 적용했다고 30일 밝혔다. 네이버 엑스아이는 네이버가 자체 개발한 AI 이미지 모니터링 기술이다. 음란 이미지를 판별하고 차단한다. 기존의 필터링을 통과한 이미지와 새로 유입된 이미지 중복 여부를 체크, 중복되지 않는 이미지만 검사 대상으로 삼는다.
대상 이미지가 음란물 기준 지수 이상으로 분류되는지 미만으로 분류되는지를 구분한다. 기준 지수 이상의 이미지 노출은 자동 차단한다. 차단된 이미지는 추후 담당자 확인을 거쳐 잘못 차단된 경우가 없는지 재검토된다.
인공신경망의 일종인 합성곱신경망(CNN) 기술이 적용됐다. 한 장의 그림을 여러 조각으로 나눠 각 부분의 특징을 추출하는 작업을 반복한다. 네이버에 등록된 이미지 수백만건을 40여가지 라벨로 분류, 10개월 동안 학습시켰다. 정교한 결과 도출을 위해 이미지를 실사·만화, 게임·미술그래픽 등으로 구분해 분야별로 학습시켰다. 운동·격투기, 의학·미용, 속옷·수영복 등 음란물은 아니지만 피부 색이 많아서 오해할 만한 이미지 유형을 지정, 정상 이미지로 분류되도록 했다.
최근 이미지 400만장을 대상으로 실시한 이미지 필터링 실험에서 98%가 넘는 높은 적중률로 음란 이미지를 골라 냈다. 네이버 관계자는 “데이터가 늘고 학습을 거듭할수록 진화하는 AI 특성상 적중률은 더욱 높아질 것”이라고 설명했다.
AI 도입으로 연중 24시간 실시간으로 음란 이미지에 대응하게 됐다. 그동안 시스템이 먼저 중복 이미지를 거른 뒤 나머지 이미지를 인간 모니터링 담당자가 판별했다. 실시간 필터링이 아니기 때문에 음란 이미지에 대한 조치가 이뤄질 때까지 유해 콘텐츠가 노출됐다.
향후 동영상 콘텐츠로 적용을 확대한다. 최근 인터넷 방송에서 음란 이미지 노출이 문제로 떠올랐다. 네이버 엑스아이는 인터넷 개인방송 상 음란 표현도 실시간 모니터링할 수 있다. 영상 각 프레임을 추출, 이미지와 동일한 방식으로 판별한다.
네이버 관계자는 “이른 시일 안에 이미지뿐만 아니라 동영상 콘텐츠로 엑스아이 적용이 확대될 것”이라면서 “앞으로 AI 기술을 활용, 이용자 검색 환경을 보호하기 위한 노력을 지속하겠다”고 말했다.
오대석기자 ods@etnews.com
