정부가 인공지능(AI)을 악용한 허위·과장광고를 잡기 위해 AI 기반 감시체계를 도입한다. 사람이 게시물 하나하나를 직접 확인하는 수작업에서 벗어나 AI가 실시간 모니터링·적발하는 방식이다. 대응 기조도 사후 단속에서 상시 감시·차단으로 옮겨간다.
22일 한국소비자원에 따르면 소비자원은 최근 'AI 기반 시장감시시스템 구축 ISP(정보화전략계획)' 용역을 발주했다. 온라인 거래가 확대되면서 허위·과장광고와 다크패턴, 신유형 부당거래가 늘고 있다는 판단에서다. 이재명 대통령도 국무회의에서 “AI 기술을 악용한 허위·과장 광고가 SNS에서 범람한다”고 지적한바 있다.
현재는 소비자원 내 시장감시팀과 표시광고팀, 전자상거래팀, 가격조사팀이 각각 다크패턴, 허위·과장광고, 사기의심 사이트, 슈링크플레이션 등을 전담한다. 팀별 모니터링과 시정 권고에 의존하는 방식이다. 담당자가 직접 게시물을 확인하는 수작업이 중심이라, 급증하는 온라인 거래 환경을 따라가기엔 한계가 있다는 지적이 제기돼 왔다.
이번 개편은 '감시 기능'을 AI로 전환하는 게 골자다. 전자상거래·일반·특수거래 조사는 별도로 하는 이원 구조다.
AI 기반 시장감시시스템은 △AI 시장감시 △AI 정보분석 △AI 거래개선 기능을 중심으로 자동 수집·분석·사후 관리까지 이어지는 체계로 계획되고 있다. 정책 변화와 언론 보도, 플랫폼 데이터 등 다양한 경로에서 소비자 권익 침해 이슈를 자동으로 모으고 분석하며, 실태조사와 신속 대응 과제로 이어지도록 하는 방안도 담았다.
허위·과장광고와 다크패턴 의심 사례는 AI가 자동 선별한다. 기존 심의 데이터를 학습해 감시 범위를 새로운 유형으로 넓히는 방안도 구상 중이다. 시정 권고 이후 실제 이행 여부를 추적하는 관리 체계 마련도 검토한다. 그간 개선 결과를 통합 관리하는 시스템은 별도로 존재하지 않았다.
소비자 참여 방식도 바뀐다. 부당광고 전용 신고 채널을 마련하고 AI 챗봇 기반 접수 기능과 데이터 관리 체계를 연계하는 방안을 검토한다. 제보 정보가 다시 분석 데이터로 축적되는 선순환 구조를 구축하기 위해서다.
도입 초기에는 시장 이슈 수집·분석 자동화와 모니터링 지원 기능을 우선 구현하고, 개선 실적 관리 체계를 붙인다. 이후 의심 사례 분석을 고도화하고 AI 기반 신고 기능과 사업자 안내 기능을 단계적으로 확대한다. 장기적으로는 생성형 AI 기반 정보 제공과 시장조사 데이터베이스 연계까지 확장할 계획이다.
ISP는 상반기까지 진행된다. 이후 예산 확보 여부에 따라 본 시스템 구축 일정과 사업 범위가 구체화된다. 소비자원 관계자는 “현재는 정보화전략을 수립하는 단계”라며 “구체적인 조직 형태나 실행 계획은 설계 이후에 논의될 사안”이라고 말했다.
박효주 기자 phj20@etnews.com
