인공지능(AI) 테크 기업 크라우드웍스가 AI 신뢰성 평가 프레임워크를 개발했다. 한국정보통신기술협회(TTA) 주관 '생성형 AI 신뢰성 평가의 실용적 접근 방안 연구사업' 일환이다.
생성형 AI 신뢰성·안전성을 체계적으로 평가하기 위한 프레임워크 표준 개발과 실증 과정에서 크라우드웍스는 거대언어모델(LLM) 신뢰성 평가 실증과 교육자료 개발을 맡았다. 또 국내 기업이 개발한 3개 LLM 모델을 대상으로 평가를 진행했다.
크라우드웍스는 데이터셋을 활용한 평가 결과를 바탕으로 각 모델 취약점을 집중 탐색했다. 또 AI 모델을 활용한 자동 평가와 전문 인력의 레드팀 심화 평가를 동시에 진행했다. 폭력, 불법, 불합리, 비사실, 오도, 비윤리 등 AI 위험도 평가를 적용했다.
이번 사업을 바탕으로 회사는 기업용 AI 리스크를 줄이기 위한 AI 신뢰성 평가 서비스를 보다 고도화했다. 올해 다양한 산업군으로 AI 서비스 신뢰성 평가사업을 확대하고 AI 신뢰성·안전성 분야에서 리더십을 강화한다는 계획이다.
김우승 크라우드웍스 대표는 “AI 신뢰성 평가 프레임워크는 국내 생성형 AI 신뢰성 평가 기준이 됐다는 점에서 의미가 크다”며 “60만명의 데이터 전문가 네트워크와 검증된 평가체계를 기반으로 시장을 리딩하고 많은 기업이 안전하고 신뢰할 수 있는 AI 서비스를 개발하도록 적극 지원하겠다”고 말했다.
박종진 기자 truth@etnews.com
