래블업이 애플 실리콘 환경에 최적화한 인공지능(AI) 추론 엔진 'MLXcel'을 오픈소스로 공개한다.
MLXcel은 래블업이 M1·M2·M3·M4 등 애플 실리콘 환경에서 거대언어모델(LLM) 추론 성능을 극대화하기 위해 자체 개발한 AI 추론 엔진이다. 애플의 머신러닝 프레임워크 MLX 깃허브에 기반해 자체 성능 튜닝·오케스트레이션·모델 운용 등 기능을 강화했다.
래블업은 그동안 자체 개발한 AI 모델 서빙 플랫폼 '백엔드닷AI:GO'로 지원해온 MLXcel을 조만간 글로벌 오픈소스 소프트웨어(SW) 플랫폼 깃허브에 전격 공개할 계획이다. 스타트업 등 다양한 기업과 학생·개발자 등이 애플 생태계에 최적화된 AI 개발·학습·배포를 할 수 있게 지원하기 위한 결정이다.
MLXcel 오픈소스는 맥 운용체계(OS)에 최적화, 맥OS 기반 애플 디바이스에서 AI 추론을 용이하게 돕는다. 별도 클라우드 응용프로그램환경(API) 없이 맥북 등 디바이스 인프라를 활용해 애플 머신러닝 가속 규격에 최적화된 AI 모델 개발과 배포가 가능해지는 것이다. 비용 절감과 효율 강화가 강점이다.
맥OS 기반 AI를 개발·배포할 수 있는 기업이나 개발자 자체가 확대될 것으로 기대된다. 그동안 고성능 AI 개발은 엔비디아 첨단 그래픽처리장치(GPU)가 탑재된 서버와 대규모 클라우드 인프라를 확보할 수 있는 빅테크 등 자본력이 있는 기업 중심으로 제한적으로 이뤄졌다.
이번에 MLXcel의 오픈소스 공개로 맥OS에 기반해 상대적으로 적은 비용에 상당 수준의 AI 개발과 서비스를 운영할 수 있는 길이 열린다. GPU 부족 문제를 겪는 대학 연구실이나 스타트업 등의 경우 맥북이나 맥 스튜디오만으로 LLM 실험, 멀티모달 테스트, 에이전트 연구를 진행할 수 있다.
특히 AI 연구·모델 개발 접근성을 높이는 것과 동시에 특정 대기업이나 거대 연구기관에 집중되고 편중된 AI 연구 역량을 분산할 것으로 기대된다. 맥OS 기반 디바이스 활용이 잦은 스타트업 등 산업계 차원 AI 모델 개발을 위한 진입장벽도 낮아질 전망이다.
또 AI 개발부터 배포까지 클라우드 환경이 아닌 자체 디바이스에서 진행할 수 있어 기업이나 기관 등에서 보안성을 강화할 수 있다.
래블업은 오는 6월 애플 연례 '세계개발자회의(WWDC)'에서 공개될 실리콘 환경과 디바이스에서도 MLXcel을 지원할 계획이다. 직접 WWDC 현장에 참석해 네트워킹으로 MLXcel과 백엔드.AI:GO를 알릴 계획이다.
신정규 래블업 대표는 “메타 '라마' 등 다양한 오픈소스와 AI 추론 엔진이 확보된 윈도 생태계처럼 MLXcel 오픈소스로 애플 디바이스에서도 손쉽게 AI를 개발하고 배포하도록 지원할 것”이라며 “래블업은 국내 AI 접근성과 확장성 강화를 목표로 AI 생태계 저변 확대와 발전에 지속 기여할 것”이라고 말했다.
박종진 기자 truth@etnews.com
