티쓰리큐는 글로벌 자연어처리(NLP) 플랫폼 겸 거대언어모델(LLM) 평가시스템 '허깅페이스(HuggingFace)' 오픈 Ko-LLM 리더보드'에서 자사 T3Q-ko-solar-dpo-v3.0 모델이 한국어 부문 1위, 1.0, 2.0 모델이 각각 2, 3위를 달성했다고 25일 밝혔다.
T3Q-ko-solar-dpo-v3.0은 업스테이지(Upstage) 솔라(solar)모델을 강화학습 계열 DPO(Direct Preference Optimization)방식을 이용해 파인튜닝한 모델이다.
오픈 Ko-LLM에 등록된 1200여개 모델 중 평균 68.5점으로 1위를 기록했다. 상식(HellaSwag) 74.18점, 추론능력(ARC) 75.09점, 환각방지(TruthfulQA) 80.98점 등 성능 테스트에서 기존 기록을 경신했다.
회사는 EDP(Enterprise Data Processing) 플랫폼을 기반으로 여러 사업을 전개하고 있다. EDP 플랫폼은 영상부터 음성, 전자문서, 이미지, 위성자료, 바이너리 등 정형, 비정형 데이터를 인공지능 기반으로 변환하고 내용까지 검색하는 솔루션이다. LLM 기능을 추가하는 Private LLM 구축을 기본으로 공공기관부터 일반 기업으로 비즈니스를 확장하고 있다.
이치훈 티쓰리큐 부대표 겸 프로젝트 리더는 “한국어 부문 1위로 Private LLM을 구축할 때 파인튜닝 기술을 통해 해당 조직의 데이터들에 최적화된 시스템을 만들 수 있는 기술 기반을 확보했다”며 “이 기술과 더불어 계속 생성, 추가되는 새로운 데이터에 대한 업그레이드와 생성 모델 환각(Hallucination) 극복까지 단계별로 구현해 완전한 LLM 구축이 가능해진다”고 설명했다.
회사는 지난 19일 허깅페이스 글로벌 리더보드 7B(매개변수 70억개) 부문에서 T3Q-DPO-Mistral-7B 모델로 세계 2위를 기록했다.
임중권 기자 lim9181@etnews.com