AI 안전 전문 기업 야타브(YATAV)가 AI의 오답(할루시네이션)을 실시간으로 걸러내는 엔터프라이즈 플랫폼 '트루스앵커(TruthAnchor)'를 공식 출시했다.
지난달 MWC 2026에서 'AI 안전은 인프라다(AI Safety is Infrastructure)'를 내건 야타브는 귀국 후 다수의 해외 파트너 미팅을 소화하는 가운데 이번 제품을 선보였다.
업계 설명에 따르면 AI 상담 챗봇이 존재하지 않는 금리를 안내하거나, 실재하지 않는 금융 상품을 추천하는 일이 현실에서 벌어지고 있다. 금융소비자보호법과 올해 시행된 AI 기본법은 AI 서비스에 정확성과 투명성을 명시적으로 요구하고 있어 오답 한 건이 곧 법적 리스크로 직결된다. 야타브 측은 “금융권에서 AI를 도입하려는 수요는 폭발적이지만, '틀리면 어쩌나'라는 우려가 가장 큰 장벽”이라며 “트루스앵커는 그 장벽을 허물기 위해 만들었다”고 강조했다.
트루스앵커의 작동 원리는 명확하다. '4단계로 걸러 못 미더우면 사람에게 넘긴다'는 원리에 입각해 AI에 들어오는 질문부터 나가는 답변까지 네 단계에 걸쳐 검증한다.
업체 측 설명에 따르면 첫 번째 입력 단계에서는 개인정보가 포함된 질문은 자동으로 비식별 처리하고, 악의적 조작 시도를 차단한다. 두 번째 정보 검색 단계에서는 AI가 답변을 생성할 때 검증된 내부 문서와 데이터를 근거로 활용하도록 유도한다. 다음으로 세 번째 출력 검증 단계에서는 생성된 답변의 정확도를 자동 채점하고, 사전에 정한 기준에 어긋나는 내용을 걸러낸다. 마지막으로 사람 검토 단계에서는 신뢰도가 기준에 미달하면 답변을 내보내지 않고, 담당 전문가에게 자동으로 넘긴다. 전 과정은 감사 기록으로 남는 것이 특징이다. 이와 관련하여 야타브는 AI 오답 탐지율 97% 이상, 악의적 조작 차단율 100%, 처리 속도 0.14초 등 트루스앵커의 주요 성능을 공개했다. 해당 서비스는 금융, 보험, 증권, 헬스케어 등 10개 이상 산업에 유용하게 활용하는 것이 가능하다.
야타브 관계자는 “올해 시행된 AI 기본법은 정확성, 감사 가능성, 개인정보 보호, 인간의 통제, 투명성 등을 핵심 의무로 규정하고 있다. 트루스앵커는 이 다섯 가지 요건 각각에 대응하는 기능을 내장해, 도입 기업이 별도의 컴플라이언스 체계를 구축하지 않아도 법적 요건을 충족할 수 있도록 설계됐다. AI 안전 '풀 라인업'을 완성한 이번 트루스앵커 출시로 야타브는 AI 안전 분야에서 AEGIS, AEGIS Personal, 엔터프라이즈용 AI 오답 차단 플랫폼 트루스앵커 세 가지 제품 라인을 갖추게 됐다. AI를 막는 것이 아니라, AI를 믿고 쓸 수 있게 만드는 것이 우리의 목표”라며 “트루스앵커를 통해 국내 금융권의 AI 도입 속도가 한 단계 빨라질 것으로 기대한다“고 밝혔다.
한편 업체 측 설명에 따르면 AEGIS는 기업용 AI 보안 플랫폼으로 사이버 공격을 평균 93% 방어하며 0.27ms 초저지연으로 서비스에 영향을 주지 않는다. 지난 12일 출시한 AEGIS Personal은 일반 사용자를 위한 개인정보보호 크롬 확장 프로그램으로 무료로 제공되고 있다.
이원지 기자 news21g@etnews.com
