인공지능(AI) 데이터 전문기업 셀렉트스타가 생성형 AI 서비스 신뢰성 검증 자동화 솔루션 'DATUMO Eval(다투모 이밸)'을 출시했다.
국내에서 처음으로 신뢰성 검증 프로세스를 자동화해, AI 서비스 운영 중 발생할 수 있는 다양한 오류와 위험성을 사전에 식별하고 대응할 수 있도록 지원하는 솔루션이다.
주요 기능은 △기업의 AI 서비스 유형과 사용 목적에 따른 평가 기준 설정 △도메인 및 서비스에 부합한 맞춤형 평가용 질문 자동 생성 △AI 서비스의 답변 자동 평가 및 결과 분석 △AI 서비스의 취약점을 이끌어내는 레드티밍 기능 등이 있다.
특히 100만개 이상의 평가용 질문을 자동 생성해 AI 모델이 처리해야 할 다양한 사용자 발화 패턴을 포괄적으로 평가할 수 있도록 지원한다. 기존에 도메인 전문가가 손수 평가용 질문을 설계하며 발생했던 높은 비용과 기간을 획기적으로 절감했다.
셀렉트스타는 신한은행 등 기업 대상 신뢰성 검증 컨설팅 경험과 국내 최초·최대 규모의 '생성형 AI 레드팀 챌린지' 운영 경험을 보유하고 있다.
김세엽 셀렉트스타 대표는 “AI의 상용화에서 가장 중요한 것은 신뢰성”이라며 “국내 AI 신뢰성 검증 시장을 선도하는 것은 물론 글로벌 시장에서도 영향력을 확대해 나갈 것”이라고 밝혔다.
김명희 기자 noprint@etnews.com
