카카오가 이용자의 과거 대화와 정보를 의미 단위로 찾아 연결하는 임베딩 모델 2종을 오픈소스로 공개하면서 개인화 인공지능(AI) 에이전트 기반 기술 확보에 속도를 낸다.
카카오가 개인화 AI 에이전트 기반 기술인 임베딩 모델 'Kanana-2-embedding' 2종을 허깅페이스에 오픈소스로 공개했다고 29일 밝혔다.
이번에 공개한 모델은 30억개 파라미터 규모 'Kanana-2-3b-embedding'과 13억개 파라미터 규모의 'Kanana-2-1.3b-embedding'이다. 지난 7월 카나나 소형 언어모델(SLM) 4종에 이은 추가 오픈소스 공개다.
임베딩 모델은 텍스트의 의미를 수치로 표현해 이용자 질문과 관련된 정보를 찾는 기술이다. 일반 언어모델이 질문을 이해하고 답변을 생성한다면 임베딩 모델은 질문과 정보 사이 의미적 유사성을 바탕으로 답변에 필요한 정보를 찾아주는 역할을 한다. 이용자가 정확한 단어를 기억하지 못하더라도 의미가 유사한 정보를 검색할 수 있다.
이 기술은 개인화 AI 에이전트가 이용자의 과거 정보와 맥락을 찾아 답변하는 데 활용할 수 있다. 한 예로 이용자가 “전에 이야기했던 조용한 식당”을 찾으면 식당 이름을 입력하지 않아도 '대화하기 좋은 곳'처럼 의미가 유사한 과거 정보를 찾는 식이다.
카카오 자체 평가 결과 공개한 임베딩 모델 2종은 유사 규모의 공개 모델인 'llama-nemotron-embed-1b-v2', 'Qwen3-Embedding-4B'와 비교해 높은 한국어 성능과 유사한 수준 영어 성능을 기록했다. Qwen3-Embedding과 비교해서는 추론 효율이 높았다고 카카오는 설명했다.
기존 카나나 임베딩 모델 시리즈와 비교해서도 검색 성능을 개선하고 메모리 사용량과 추론 속도에서 효율을 높였다고 밝혔다.
카카오는 자체 소형 언어모델 'Kanana-2-SLM'의 언어 이해 능력을 정보 검색에 활용하도록 학습해 3B 모델을 개발했다. 이후 큰 모델이 학습한 정보를 작은 모델에 전달하는 지식 증류 기법을 적용해 1.3B 모델을 구축했다.
서비스 운영 환경에 따라 효율을 조정하는 기술도 적용했다. 텍스트의 의미를 숫자 묶음으로 표현한 '임베딩 벡터'에서 사용하는 숫자의 개수를 조절하는 MRL(Matryoshka Representation Learning) 기법을 도입했다. 개발자는 검색 성능과 저장 공간, 처리 속도 등을 고려해 벡터 크기를 선택할 수 있다.
두 모델에는 연구·개발뿐 아니라 라이선스 조건에 따라 상업적으로 활용할 수 있는 '카나나 오픈 라이선스'를 적용했다. 국내외 연구자와 기업은 공개 모델을 검증하고, 개인화 AI 에이전트와 의미 기반 검색 서비스 개발 등에 활용할 수 있다.
노병석 카카오 유니파이드 파운데이션 모델 성과리더는 “AI 에이전트가 이용자에게 필요한 도움을 제공하려면 질문에 답하는 능력과 함께 흩어진 정보 속에서 필요한 정보를 정확히 찾아내는 기술이 중요하다”면서 “이번 공개로 연구자와 개발자들이 한국어에 강점을 가진 임베딩 기술을 다양한 서비스에 활용하도록 돕고, 검색 성능과 효율을 함께 높이는 연구를 이어가겠다”고 말했다.
변상근 기자 sgbyun@etnews.com
