업계 첫 자동 차단 시스템 도입
리뷰 자성자 허위주문 간파에 중점
악용 우려에 필터링 기준 공개 안해

Photo Image

배달의민족이 허위리뷰 검증 정책을 대폭 강화한다. 하루 이상 걸렸던 허위리뷰 차단 프로세스를 게시물 작성 즉시 자동 차단되도록 속도를 끌어올린다. 플랫폼 내 리뷰조작으로 부당수익을 올려왔던 불법업체를 근절하기 위한 조치다.

22일 업계에 따르면 우아한형제들은 배달의민족에 인공지능(AI) 기술과 인력을 활용한 '실시간 탐지' 시스템을 업계 최초로 도입한다. 현재 일부 이용자 대상으로 시범운영을 시작했고 점진적으로 적용 대상을 확대한다. 기존에도 AI를 리뷰 검증에 활용한 사례는 있었으나 비속어 필터링이나 가짜 음식사진을 걸러내는 수준에 머물렀다.

새 시스템은 허위리뷰로 의심되는 게시물이 작성될 경우, 이를 즉각 탐지해 자동분류하고 임시 블라인드 처리한다. 최대 24시간 내 재검토를 거쳐 리뷰 공개 혹은 차단을 최종 판정한다. 그동안 배민 가맹업주들로부터 받은 제보 내역과 자체 모니터링을 통해 축적된 허위리뷰 데이터를 기반으로 시스템을 구축했다.

이용자들이 남기는 리뷰 정보는 배달 앱 내 상위 노출 반영과 점포 매출에 큰 영향을 미친다. 점포 매각 시 리뷰와 평점에 따라 수천만원의 권리금이 형성될 정도다. 이 때문에 가맹업주들이 직접 허위 주문을 발생시켜 평판을 조작하거나 전문 대행업자들을 고용해 대량으로 거짓된 후기를 작성하는 관행이 횡행했다.

문제 개선을 위해 배달의민족은 지난해 9월 허위리뷰 근절을 위한 부정거래감시팀을 신설하고 적발 시스템을 지속 강화해 왔다. 주민등록번호 대체 식별번호인 CI(Connection Information)을 활용, 주문 대비 리뷰 수 증가율 패턴 등을 고려해 약 2만건 허위리뷰를 적발했다. 올해부터는 '불법 리뷰와의 전쟁'을 선포하며 AI 기술 접목한 리뷰 검수, 리뷰 재작성 차단 및 작성 가능 기간 단축, 조작 업체들에 대한 법적 대응 등을 진행했다.

이번에 도입된 실시간 탐지는 리뷰 작성 시점에서 작성자의 허위 주문 여부를 간파하는 데 집중했다. 허위 리뷰를 작성한 후 결제를 취소시키는 방식으로 리뷰 숫자를 늘리는 수법을 막는 데 효과적이다.

현장에서도 강화된 탐지 시스템을 체감한다는 반응이 늘고 있다. '만나서 현금결제' 등으로 허위주문을 발생시키거나 가짜 리뷰 사진을 쓰는 경우도 여지없이 적발됐다. 한 배달의민족 가맹업주는 “가족 등 '지인 찬스'를 통한 리뷰 작성도 객관적이지 못한 후기라는 이유로 차단이 이뤄졌다”고 전했다.

우아한형제들은 향후 불법업체들의 악용 여지를 우려해 정확한 필터링 기준을 공개하지는 않기로 했다.

회사 관계자는 “사후적으로 이뤄졌던 허위리뷰 탐지를 실시간으로 앞당겨 아예 노출되지 않도록 개선했다는 데 의미가 있다”며 “아직 시스템 안정화 단계지만, 내부 테스트 결과 탐지 정확도가 상당히 높은 것으로 나타났다”고 말했다.

이형두기자 dudu@etnews.com