인공지능(AI) 소프트웨어 전문기업 코난테크놀로지가 이달 추론모드가 통합된 신규 거대언어모델(LLM) 'ENT(엔터프라이즈)-11'을 내놓는다. 자체 벤치마크에서는 딥시크를 제쳤다.
신규 모델은 일반 모드와 추론 모드를 하나의 엔진에 통합한 점이 가장 큰 특징이다. 단일 모델로서 일반 질의 응답뿐만 아니라 복잡한 추론을 요구하는 작업에도 최적의 답변을 제공할 수 있도록 전환 대응한다. 일반용 모델과 추론용 모델을 별도로 제공하는 타사 모델에 비해 더 낮은 그래픽처리장치(GPU) 비용으로도 고성능 AI 서비스가 가능하다는 점에서 차별화된다.
한국어 최적화 구조를 갖춘 것도 강점이다. 큐원(Qwen), 라마(LLaMA), 젬마(Gemma), 딥시크(DeepSeek) 등 모델 대비 한국어 토큰이 사전 학습 단계에서 더 많이 포함돼 있어 한국어 기반 질의에 대한 처리 정확도와 응답 속도 면에서 월등히 앞선다.
이는 출시 전 진행된 자체 벤치마크에서도 검증됐다. 'ENT-11'모델은 32B(매개변수 320억개) 규모로, 671B(매개변수 6710억개)인 대형 모델 딥시크 R1 대비 약 5% 수준에 해당한다.
멀티턴 대화 및 지시를 따르는 능력을 측정하는 'MT-Bench' 평가의 △작문 △역할극 △추론 △수학 △코딩 △정보 추출 △STEM(과학·기술·공학·수학) △인문학 8개 항목에서 딥시크 R1과 대등한 점수를 기록했다. 코딩 성능은 크게 앞섰다. 'ENT-11'모델과 매개변수가 32B로 동일한 딥시크 R1 모델에 비해서는 평균 4.75%p 성능이 높았다.
코난테크놀로지는 MT-Bench를 번역, 정확성을 높인 'Konan MT-Bench'를 자체 구축해 신규 모델의 성능을 거듭 평가했다. 그 결과, 동일 크기 대비 추론·수학 등 주요 성능이 앞선 것을 재확인했다고 전했다.
김영섬 코난테크놀로지 대표는 “LLM이 특정 평가지표에만 과도하게 맞춰져 일부 평가에서만 성능이 좋게 나타나는 것에 대한 변별력이 필요하다”며 “딥시크 R1대비 20배나 작은 모델이지만 더 나은 추론 성능을 입증한 만큼, 고품질의 한국어 데이터와 개발 인프라를 강점으로 코난테크놀로지가 만든 LLM 기술이 국내 생성형 AI 성능의 바로미터가 될 수 있도록 매진하겠다”고 말했다.
김명희 기자 noprint@etnews.com
