서울시가 인공지능(AI) 안면인식 기술로 아동·청소년 성착취물을 24시간 자동 추적·감시한다.
시는 서울연구원과 서울 디지털성범죄안심지원센터를 중심으로 지난해 전국 최초로 '디지털 성범죄 AI 삭제지원 프로그램'을 개발한 데 이어, 올해는 '아동·청소년 대상 디지털 성범죄 AI 감시 시스템'을 구축했다. 내년에는 'AI 자동신고 시스템'을 구축할 계획이다.
서울시는 아동·청소년은 디지털 성범죄 피해를 입더라도 부모님에게 말하지 못해 신고가 이뤄지지 않고, 피해 영상물이나 사진이 유포·재유포되는 경우가 많아 이번 기술 개발에 나섰다.
아동·청소년은 관련 법에 따라 당사자나 부모 신고 없이도 피해 영상물 삭제가 가능한 만큼, AI를 통해 관련 성착취물을 빠르게 찾아내고 삭제해 피해에 신속 대응할 방침이다.
'아동·청소년 디지털 성범죄 AI 감시 시스템'은 AI 딥러닝 기반 안면인식 기술로 성인과 잘 구분되지 않는 아동·청소년의 성별과 나이를 판별할 수 있는 시스템이다.
특히 영상물에 얼굴이 직접 나오지 않더라도 아동·청소년 피해 영상물 여부를 찾아낼 수 있다. AI가 피해 영상물에 자주 등장하는 책, 교복, 인형 등 주변 사물은 물론, 이미지 속 텍스트, 청소년들이 주로 사용하는 언어까지 함께 인식해 최종적으로 피해 영상물 여부를 판별하게 된다.
키워드 입력부터 영상물 검출까지 90초밖에 걸리지 않기 때문에 기존 삭제지원관이 관련 키워드로 피해 영상물을 검색해서 수작업으로 찾아낼 때(2시간)와 비교하면 검출 속도가 80분의1로 크게 개선되고, 정확도도 300% 이상 향상된다.
지난해 수작업으로 이뤄진 모니터링 건수(15만건)의 2배인 30만건까지 모니터링이 가능해지고, AI 학습 데이터가 축적될수록 정확도와 속도는 더욱 향상될 것으로 기대된다.
아울러 검색 영역도 확장했다. AI를 통해 국내와 미국뿐만 아니라 중국, 러시아 등 해외에 유포된 피해 영상물 검색도 가능해진다.
김선순 서울시 여성가족정책실장은 “우리 사회를 충격에 빠트린 'n번방 사건' 이후 4년이 흘렀지만 여전히 아동·청소년을 대상으로 한 디지털 성범죄는 사라지지 않고, 그 피해도 심각하다”며 “AI 기술을 통해 선제적 감시·삭제에 나서 아동·청소년이 안전한 서울을 만들어나가겠다”고 말했다.
김명희 기자 noprint@etnews.com
