한국인터넷자율정책기구(KISO)가 지난해 6월 도입한 욕설 필터링 서비스인 이용자보호시스템(KSS)이 출시 1년 만에 큰 성과를 거둔 것으로 나타났다. KSS를 이용하는 기업과 기관이 37곳으로 확대됐다. 욕설 탐지와 보호조치 건수도 33만건에 달했다.
KISO는 네이버와 카카오가 무상으로 제공한 욕설 데이터베이스(DB) 60만건을 통합해 KSS를 개발했다. KSS는 다양한 플랫폼 환경에서 이용자가 작성한 게시글, 댓글, 아이디 등에 욕설·비속어가 포함되면 이를 탐지하고 걸러낸다.
KISO는 건강한 인터넷문화 조성에 기여한다는 방침에 따라 공공기관과 언론사, KISO 회원사 등에는 KSS를 무료로 제공한다. 일반 기업에도 매우 저렴한 비용으로 이용하도록 지원한다.
KSS는 출시 1년 만에 온라인 커뮤니티, 인공지능(AI)·메타버스 플랫폼, 금융기관, 교육 서비스 업체, 쇼핑몰, 언론사, 공공기관 등 37곳에서 도입됐다.
대표적으로 EBS에서 만든 교육용 메타버스 '위캔버스(WecanVerse)'의 게시글·채팅 서비스에서 욕설·비속어를 탐지하고 있으며, 'TMAP(티맵) 앱 내 장소 리뷰 작성 시 텍스트 필터링, 중고 거래 플랫폼 '번개장터' 내 고객 게시판, 시청자가 생방송 등에 실시간으로 참여하는 KBS '티벗(TVut)' 채팅 서비스에도 욕설·비속어 탐지와 필터링에 KSS가 사용되고 있다. 교육 서비스 '말해보카'와 '개념원리'에도 도입되어 있으며 국립중앙도서관, 화성시, 충청북도교육청도 KSS를 도입했다.
KSS는 네이버와 카카오가 악성 댓글 등으로부터 이용자를 보호하기 위해 투자 및 개발해 온 자동화된 필터링 기술의 성과물을 공유받아 공개한 것이다. 네이버와 카카오는 이미 자체 시스템으로 상당한 성과를 거두고 있다. 네이버는 2019년 4월 인공지능(AI) 기술 기반의 악성댓글 탐지 시스템인 '클린봇'을 도입한 이후 악플 노출 비율이 18.5%(2020년)에서 8.9%(2023년)로 절반 이하로 떨어졌다. 카카오는 2020년 하반기 '세이프봇' 도입 이후 욕설·비속어가 2023년 기준 94.7%나 줄었다.
KISO는 올해 4월 네이버와 카카오로부터 추가적인 DB를 제공받아 기존의 사용 빈도가 낮은 단어 및 중복된 내용을 삭제하고 새롭게 추가된 신종 욕설·비속어 20만건을 추가했다. 이번 업데이트 작업을 통해 현재 약 80만건의 욕설·비속어 DB를 보유했다.
황용석 KISO 자율규제DB위원회 위원장(건국대 미디어커뮤니케이션학과 교수)은 “인터넷은 시간과 공간적 한계를 뛰어넘어 누구와도 소통할 수 있는 공론장이지만 타인에게 상처를 주거나 불쾌감을 주는 표현으로 인한 부작용도 발생하고 있다”면서 “KSS는 자율규제의 중요한 수단인 자동화된 기술을 제공해 보다 효과적으로 이용자를 욕설·비속어로부터 보호한다는 점에서 큰 의의가 있다”고 말했다.
변상근 기자 sgbyun@etnews.com
