래블업은 한국어 기반 거대언어모델(LLM)의 답변 속도를 높이는 드래프트 모델 'GLM-5.2-NVFP4-DFlash-ko'를 오픈소스로 공개했다고 12일 밝혔다.
이번 모델은 한글날인 9일 공개됐다. 한국어 질의와 한국어 기반 에이전트 작업에서 LLM 추론을 가속화하는 드래프트 모델이다. 중국 즈푸(Z.ai)의 'GLM-5.2'를 엔비디아 4비트 부동소수점 형식(NVFP4)으로 구동할 때 함께 활용한다.
지랩(z-lab)이 공개한 디플래시(DFlash) 방식을 적용했다. 디플래시는 토큰 여러 개를 동시에 생성하는 방식이다. 드래프트 모델이 여러 토큰을 미리 예측하면 대형 모델이 이를 한 번에 검증해 답변 품질을 유지하면서 생성 속도를 높인다.
래블업은 영어 기반 드래프트 모델이 한국어 작업에서 가속 효과가 떨어지는 문제를 개선했다. 한국어 데이터로 모델을 학습해 추측 적중률을 높였다. 한국어 에이전트 트래픽에서 측정한 평균 수락 길이(MAL)는 한국어 질의 2.77로 영어 모델과 유사한 가속 성능을 기록했다.
래블업은 한국어 디퓨전 언어 모델도 개발 중이다. 약 110억 파라미터(매개변수) 규모로, 로컬 기기에서 에이전트 작업을 수행하는 온디바이스 모델 개발이 목표다. 학습은 B200 그래픽처리장치(GPU) 64장 규모 클러스터를 활용한다.
신정규 래블업 대표는 “개발자와 기업이 한국어 환경에서도 가속 효과를 얻을 수 있도록 한글날에 맞춰 한국어 드래프트 모델을 공개했다”며 “AI 인프라 소프트웨어(SW)를 개발한 경험을 바탕으로 한국어 모델 개발까지 사업 영역을 확대하고 있다”고 말했다.
래블업은 최근 금융위원회에 증권신고서를 제출하고 코스닥 상장 절차에 착수했다. 공모 주식수는 총 218만주로, 희망 공모가는 2만원에서 2만3000원이다. 래블업은 오는 13일부터 19일까지 기관투자자 대상 수요예측을 진행할 예정이다.
조벼리 기자 starry@etnews.com
