노타는 세계적인 머신러닝 학회 ICML 2026에서 열린 '이피션트 큐웬 컴피티션(Efficient Qwen Competition)'에서 3위를 차지하며, 글로벌 오픈소스 AI 모델 '큐웬'의 추론 최적화 기술력을 인정받았다고 13일 밝혔다.
ICML은 머신러닝과 인공지능 분야를 대표하는 학회로 글로벌 빅테크 기업과 주요 대학, 연구기관의 최신 AI 연구 성과가 발표되는 자리다.
이피션트 큐웬 컴피티션은 글로벌 AI 개발자들이 널리 활용하는 큐웬의 오픈소스 거대언어모델(LLM)인 Qwen3.5-4B을 단일 엔비디아 A10G 그래픽처리장치(GPU) 환경에서 실행하면서 모델 성능은 유지한 채 답변 생성 속도를 얼마나 높일 수 있는지를 평가하는 대회다.
이번 대회에는 전 세계 40여 개 팀이 참가했으며, 노타는 평균 6.978배 빠른 추론 성능을 기록해 최종 3위에 올랐다. 동일한 AI 모델의 답변 품질을 유지하면서도 응답 속도를 크게 높였으며, 실제 서비스 환경에서 활용되는 큐웬 모델을 대상으로 추론 최적화 기술력을 검증받았다는 점에서도 의미가 크다고 회사는 설명했다.
노타는 자체 AI 모델 경량화 기술인 양자화를 적용해 모델의 메모리 사용량과 연산량을 줄이고, AI가 답변을 생성하는 과정을 최적화하는 추측적 디코딩 기술을 결합해 추론 속도를 높였다.
김태호 노타 최고기술책임자(CTO) 겸 공동창업자는 “이번 성과는 대표적인 오픈소스 AI 모델인 큐웬을 대상으로 노타의 추론 최적화 기술력을 검증받은 사례”라며 “앞으로도 다양한 AI 서비스와 온디바이스·엣지 AI 환경에 최적화 기술을 확대 적용해 나갈 것”이라고 말했다.
정현정 기자 iam@etnews.com
