SW

래블업, 애플 실리콘 특화 'AI 추론 엔진' 오픈소스로 공개

래블업이 애플 실리콘 환경에 최적화한 인공지능(AI) 추론 엔진 'MLXcel'을 오픈소스로 공개한다. MLXcel은 래블업이 M1·M2·M3·M4 등 애플 실리콘 환경에서 거대언어모델(LLM) 추론 성능을 극대화하기 위해 자체 개발한 AI 추론 엔진이다. 애플의 머신러닝 프레임워크 MLX 깃허브에 기반해 자체 성능 튜닝·오케스트레이션·모델 운용 등 기능을 강화했다. 래블업은 그동안 자체 개발한 AI 모델 서빙 플랫폼 '백엔드닷AI:GO'로 지

헤드라인 이미지