셀렉트스타는 공동 연구한 금융 인공지능(AI) 안전성 평가 연구 논문이 데이터 마이닝 분야 국제학술대회 'IEEE ICDM' 메인 컨퍼런스에 채택됐다고 5일 밝혔다.
이번 연구는 금융 거대언어모델(LLM) 레드티밍을 위한 전문가 기반 벤치마크 생성 및 평가 프레임워크를 다룬다. 셀렉트스타가 금융보안원, KAIST와 공동 수행했다.
연구진은 금융 분야 LLM 안전성을 평가하는 프레임워크 '핀레드'를 제시했다. 금융보안 전문가의 지식과 실제 금융 문서를 결합해 위험 시나리오를 생성하고 AI 답변의 유해성을 평가한다.
위험 영역을 사이버 위협, 금융 범죄, 허위정보·기만, 소비자 권익 침해, 금융 정보통신기술(ICT) 규제 회피 등 5개 영역과 26개 유형으로 분류했다. 전문가 검증을 거친 평가 데이터 5805개도 확보했다.
연구진이 핀레드의 성능을 평가한 결과 금융보안 전문가 판단과의 일치율은 88.46%로 기존 범용 평가 방식보다 11.54%p 높았다. 위험한 답변을 안전하다고 잘못 판단한 사례도 약 57%p 감소했다.
핀레드는 금융보안원 규제 샌드박스에서 생성형 AI 보안성 평가에 활용될 예정이다. 은행·보험·증권사는 AI 챗봇·가드레일 도입 전 위험 시나리오를 활용해 취약점을 점검할할 수 있다.
셀렉트스타는 이를 기반으로 금융권 대상 맞춤형 AI 안전성 평가와 레드티밍 사업을 확대할 계획이다. 올해 IEEE ICDM에는 논문 1966편이 투고돼 392편(19.9%)이 채택됐다.
논문 교신저자인 김민우 셀렉트스타 AI Safety팀 리더는 “전문가 판단을 반영해 AI 답변 위험성을 평가하고 규제 변화에 맞춰 평가 시나리오를 확장할 수 있다는 점에서 의미가 있다”고 말했다.
앞서 셀렉트스타는 질문 난이도에 따라 AI 모델을 선택하고 답변의 적절성을 평가하는 디시전 AI 모델 '다비'를 공개했다. 자체 성능 평가에서 타입세이프 AI 모델 '제브'보다 높은 정확도를 기록했다.
조벼리 기자 starry@etnews.com
