사회관계망서비스(SNS)에서 무분별한 비난과 비방, 근거 없는 소문 유포 등 악성댓글로 피해를 보는 사례가 일부 줄어들 전망이다.
인스타그램은 인공지능(AI) 기술을 적용해 실시간으로 악성댓글을 자동 차단하는 기능을 도입했다. 공격적이거나 비방성 댓글로 고통 받는 SNS 사용자를 보호하기 위한 조치다.
이용자가 인스타그램 설정에서 '부적절한 댓글 숨기기' 기능을 활용하면 악성댓글을 사전에 차단할 수 있다. 현재는 영어만 지원하지만 지원 언어가 추가 반영될 예정이다.
악성 댓글 차단 기능은 스스로 학습하는 머신러닝 기반으로 작동하는 방식이다. 인스타그램은 서비스 개시에 앞서 악성 댓글과 스팸 댓글을 걸러낼 수 있는 트레이닝을 진행했다.
인스타그램은 이번에 도입한 악성댓글 자동 차단 기준을 명시하진 않았다. 어느 수준까지 악성댓글을 차단할 수 있을지는 향후 결과를 지켜봐야 한다.
인스타그램은 사생활침해와 인신공격 확산을 막기 위해 이용자 계정 정보와 IP 주소 등을 수사기관에 공유, 수사에 협조하고 있다.
수많은 댓글을 사람이 일일이 확인하는 건 한계가 있기 때문에 AI 기술을 활용한 실시간 모니터링을 도입하는 사례가 점차 늘어날 전망이다.
앞서 구글은 2월 Jiasaw와 함께 머신러닝을 기반으로 유해성 댓글을 구분할 수 있는 AI 소프트웨어 'Perspective'를 공개, 뉴욕타임스와 가디언, 이코노미스트 등 언론사와 위키피디아 백과사전에 도입한 바 있다.
최재필기자 jpchoi@etnews.com
