레이어1 블록체인 수이(Sui) 개발사 미스틴랩스가 구글 클라우드와 손잡고 인공지능(AI) 에이전트의 행동을 추적하고 검증하는 기술을 개발한다. 사람이 시킨 범위 안에서 AI가 제대로 일했는지, 문제가 생겼을 경우 어떤 과정에서 잘못됐는지를 확인할 수 있도록 하는 기술이다.
미스틴랩스는 구글 클라우드와 공동 개발 중인 AI 에이전트 활동 검증 기술 'VAA(Verifiable Agent Arbiter)'를 7일 공개했다.
AI 에이전트는 사람의 지시를 받아 정보를 찾는 데 그치지 않고 상품을 구매하거나 결제하고, 다른 AI 에이전트와 거래하는 단계로 발전하고 있다. 기업이 AI에 더 많은 업무를 맡길수록 문제가 생겼을 때 AI가 어떤 지시를 받고 어떤 판단을 내려 업무를 수행했는지 확인할 필요성도 커진다. VAA는 에이전트가 생성한 활동 기록을 특정 플랫폼에 의존하지 않고 거래 상대방이나 감사인, 규제기관 등이 검증할 수 있도록 설계됐다.
VAA는 AI 에이전트의 상세 활동 기록과 이를 검증하기 위한 정보를 분리해 관리한다. 프롬프트와 모델 출력, 도구 호출, 정책 판단 등 실행 데이터는 고객이 관리하는 구글 클라우드 스토리지에 비공개로 보관한다. 해당 기록이 변경되지 않았음을 입증하는 암호학적 증명은 데이터 플랫폼 '월러스(Walrus)'에 저장하고 레이어1 블록체인 '수이(Sui)'와 연계한다.
기업 간 AI 에이전트 거래에서 분쟁이 발생했을 때 양측이 동일한 증빙 기록을 토대로 업무 과정을 재현할 수 있다. 보안 사고 발생 시에는 에이전트가 받은 지시와 정책, 판단, 출력, 도구 실행 내역 등을 추적해 프롬프트 인젝션이나 정책 우회, 모델 오류, 사후 로그 변경 여부 등을 확인할 수 있다.
AI 에이전트를 활용한 상거래에도 적용된다. VAA는 '수이 에이전트 페이먼츠'와 연동해 에이전트의 권한 승인과 지출 결정, 서비스 제공 내역 등을 암호학적으로 기록한다.
미스틴랩스는 VAA가 향후 AI 관련 규제 대응에도 활용될 수 있을 것으로 보고 있다. 유럽연합(EU) AI법 등에서 요구하는 AI 시스템의 로그 기록과 감사 가능성을 확보하는 수단으로 활용한다는 구상이다.
에반 챙 미스틴랩스 공동창립자 겸 최고경영자(CEO)는 “AI 에이전트가 재무적·법적 영향을 미치는 의사결정을 내리기 시작한 만큼 부여된 권한을 넘어서지 않도록 하는 시스템이 필요하다”며 “어느 거래 상대방이든 직접 검증할 수 있는 증빙이 있어야 한다”고 말했다.
VAA는 기업 고객을 대상으로 우선 도입한 뒤 제공 범위를 확대할 예정이다.
송혜영 기자 hybrid@etnews.com
