인공지능(AI) 산업의 중심이 학습에서 추론으로 빠르게 이동하면서, AI 인프라의 경쟁 기준도 연산 성능에서 전력 효율성과 비용 경쟁력, 유연한 자원 활용으로 확대되고 있다. AI 서비스별 요구사항이 다양해지면서 다양한 공급사, 여러 세대의 그래픽처리장치(GPU)·신경망처리장치(NPU) 등 서로 다른 연산 자원을 하나의 인프라에서 유기적으로 활용하는 '이기종 AI 데이터센터'가 대안으로 부상하고 있다.
모레는 이러한 이기종 환경을 소프트웨어로 통합하고 최적화하는 기술을 바탕으로 AI 인프라 시장에서 독자적인 경쟁력을 구축하고 있다.
모레의 핵심 경쟁력은 특정 하드웨어에 종속되지 않는 개방형 AI 인프라 소프트웨어다. GPU 자원의 효율적인 활용과 클러스터링 기술을 시작으로 AMD GPU 환경에서 다양한 AI 모델을 최적화해왔으며, GPU와 NPU를 하나의 논리적 클러스터로 운용하는 'MoAI 인퍼런스 프레임워크'와 서로 다른 가속기의 연산 특성을 활용해 하나의 AI 모델을 효율적으로 실행하는 '분산 추론 소프트웨어'를 선보였다.
모레가 개발 중인 '토큰 팩토리 OS'는 엔비디아·AMD GPU와 국산 NPU 등 서로 다른 가속기가 혼재하는 데이터센터에서 어떤 연산을 어떤 칩에 배분할지를 최적으로 결정하는 핵심 인프라 소프트웨어다. 단순히 여러 종류의 칩을 함께 사용하는 데 그치지 않고, 각 가속기의 장점을 활용해 LLM 추론 성능을 높이고 토큰당 비용을 낮추는 것이 목표다.
모레는 2021년부터 KT와의 전략적 협업을 통해 세계 최초로 AMD 인스팅트 GPU 기반 AI 데이터센터를 구축, KT의 AI 클라우드 서비스를 통해 선보였다. AMD 인스팅트 GPU와 모레의 소프트웨어가 결합된 AI 서버는 성능에 있어서도 엔비디아의 GPU 서버와 대등한 성능을 실현했다. 올해 4월부터는 일본의 AI 토큰 팩토리 서비스에 OS를 공급해 엔비디아와 AMD GPU가 결합된 통합 인프라를 안정적으로 운영 중이다.
조강원 모레 대표는 “모레 소프트웨어를 기반으로 올해안에 3~4곳의 토큰 팩토리를 운영하는 것이 단기적인 목표”라며 “모레의 기술로 데이터센터를 안정적으로 운영하는 것이 우선 목표이며, 이를 달성하면 AI 시장 성장과 함께 모레의 규모도 자연스럽게 커질 것”이라고 강조했다.
정현정 기자 iam@etnews.com
