카카오가 자체 개발한 인공지능(AI) 모델 '카나나(Kanana)'의 소형언어모델(SLM)을 오픈소스로 공개했다. 스마트폰 등 기기에서 구동할 수 있는 모델로 AI 기술 경쟁력을 높이고 국내 개발 생태계를 지원한다.
카카오는 28일 허깅페이스에 '카나나2' 소형언어모델 4종을 오픈소스로 공개했다고 밝혔다. 공개 모델은 △Kanana-2-1.3B-base △Kanana-2-1.3B-instruct △Kanana-2-3B-base △Kanana-2-3B-instruct다.
이번에 공개한 모델은 한국어와 영어에서 유사 규모의 최신 오픈소스 모델과 비교해 경쟁력 있는 성능을 구현했다. 카카오에 따르면 한국어와 영어, 지식, 수학, 코드 등 주요 벤치마크에서 우수한 성능을 기록했다.
특히 'Kanana-2-1.3B-instruct'와 함께 개발한 소형 모델 'Kanana-2-0.9B-instruct'는 대화와 지식, 코드, 수학, 지시 이행, 도구 호출 등 실제 서비스 활용 평가에서 큐웬, 젬마 등 동급 글로벌 모델과 경쟁력 있는 성능을 보였다.
카카오는 자체 개발한 한국어 특화 토크나이저를 적용해 기존 모델 대비 한국어 처리 효율을 30% 이상 개선했다고 설명했다. 토크나이저는 AI 모델이 문장을 처리하도록 텍스트를 작은 단위로 나누는 기술이다. 한국어에 최적화된 토크나이저를 적용하면 같은 문장을 더 적은 단위로 처리해 연산 속도를 높이고 비용을 줄일 수 있다.
온디바이스 환경에서 메모리 사용량을 줄이기 위한 구조도 적용했다. 긴 대화를 처리할 때 메모리 사용량이 급격히 늘어나는 문제를 줄이기 위해 '슬라이딩 윈도 어텐션' 구조를 도입했다.
카카오는 이를 통해 최대 3만2000토큰, 약 2만4000단어 길이 대화에서 메모리 사용량을 최대 72.7% 절감하면서 성능을 유지할 수 있다고 밝혔다.
이번 모델은 상업적 활용을 허용하는 '카나나 오픈 라이선스'로 배포한다. 개발자와 스타트업, 연구기관 등이 모델을 활용하도록 했다.
노병석 카카오 유니파이드 파운데이션 모델 성과리더는 “에이전틱 AI 시대를 준비하며 클라우드의 대규모 AI와 온디바이스 경량 AI 모두 중요성을 체감하고 있다”면서 “카카오는 두 영역에서 기술 경쟁력을 높여가면서 이번 오픈소스 공개 모델이 더 많은 개발자와 기업의 새로운 AI 서비스 개발로 이어지길 바란다”고 말했다.
변상근 기자 sgbyun@etnews.com
