크라우드웍스가 과학기술정보통신부·한국지능정보사회진흥원(NIA)의 인공지능(AI) 에이전트 안전·신뢰성 검증체계 지원사업에 참여한다.
기업과 실생활에서 AI 에이전트 도입이 확대되는 만큼 에이전트 오작동을 대비하기 위한 사업이다. 에이전트가 스스로 계획을 세우고 외부 도구를 호출하는 자율 실행과정 타당성을 검증할 수 있게 지원, 평가 공백을 해소하고 에이전트 특화 검증체계를 구현한다.
국제표준을 준수하며 국내 서비스 환경에 맞춘 평가 기준을 만들고 실제 현장 적용을 거쳐 민간 AI 신뢰성 인증까지 연계한다는 계획이다.
크라우드웍스는 다단계 추론 시나리오와 한국형 검증 데이터셋 구축을 주도한다. AI 최종 답변뿐만 아니라 에이전트가 답변을 도출해나가는 과정의 논리적 타당성까지 평가할 수 있는 데이터 기반을 확보한다.
다양한 MCP 도구와 외부 API를 순차·병렬로 호출해야 해결되는 난이도별 다단계 추론 시나리오를 설계한다. 한국 특화 맥락을 반영하고 자주 변동되는 동적 데이터도 포함한다.
크라우드웍스 관계자는 “AI 에이전트 시대 에이전트 실행 과정에 대한 안전성과 신뢰성 검증이 AI 산업 필수 거버넌스로 떠올랐다”며 “고품질 데이터 구축 노하우와 평가 역량을 바탕으로 국내 AI 에이전트 생태계 안전성과 신뢰도를 높이고 글로벌 수준에 부합하는 한국형 AI 에이전트 검증 표준을 정립하는 데 기여하겠다”고 말했다.
이번 사업은 슈어소프트테크가 주관사로 크라우드웍스와 한국과학기술원(KAIST), 한국인공지능산업협회가 참여하는 컨소시엄이 추진된다. 연말까지 개발·검증 체계 구축을 완료할 예정이다.
크라우드웍스는 과기정통부와 NIA '2026 AI 허브 학습용 데이터 사업'과 '복합 문서 기반 지식 추론 데이터 사업'에도 참여하고 있다.
박종진 기자 truth@etnews.com
