망고부스트는 인공지능(AI) 데이터센터 핵심 가속 장치인 데이터처리장치(DPU)를 자체 설계·개발하는 반도체 회사다. AI 주권(소버린 AI) 확보가 국가적 과제로 떠오른 가운데, AI 인프라 핵심 계층을 국산 기술로 대체하는 하드웨어(HW)·소프트웨어(SW) 통합 '풀스택' 전략을 앞세워 시장을 공략한다.
망고부스트는 AI 인프라 내 데이터 병목을 해결하는 DPU '부스트엑스', 연산 칩의 실제 활용률을 끌어올리는 거대언어모델(LLM) 최적화 소프트웨어 'LLM부스트', 그리고 이를 하나의 시스템으로 통합한 완성형 서버까지 하나의 스택으로 제공한다.
부스트엑스는 분산 스토리지에 특화된 'NRT'와 그래픽처리장치(GPU)·신경망처리장치(NPU)를 RDMA로 연결하는 'RoCE AI' 기술을 기반으로 설계됐다, 이를 적용한 제품으로 고성능 GPU 서버 '알폰소'와 분산 스토리지 서버 '케사르'도 선보였다.
회사 기술력은 글로벌 무대에서도 인정받았다. 망고부스트는 AI 벤치마크 'MLPerf v6.0'에서 업계 최초로 다중 리전 기반 이기종 추론 시스템을 구현했다. 성능 저하 없이 미국과 한국에 분산된 서로 다른 GPU 클러스터를 실시간으로 연결하는 '라이브 파이프라인'을 구축한 것으로, 국경을 넘는 AI 인프라 운영 가능성을 입증한 사례다.
사업화에도 속도가 붙었다. 망고부스트는 MWC, AI 엑스포, 월드IT쇼 등 국내외 전시회에서 알폰소와 케사르를 잇달아 선보였다. 협력 생태계도 빠르게 확장 중이다. 아크릴·글루시스와는 공동 연구 및 공동 제품화를, 에임인텔리전스와는 DPU 기반 AI 보안 인프라 개발을 위한 업무협약(MOU)을 체결했다.
망고부스트는 자체 인프라로는 DCP 강남 AI 데이터센터가 하반기 가동을 앞두고 있으다. 한국형 소버린 AI 프로젝트인 'K-문샷'과 광주 국가 NPU 컴퓨팅센터 사업에도 참여하고 있다. 현재 시리즈 B 투자 유치도 추진, 연내 마무리할 계획이다.
김장우 망고부스트 대표는 “연산 칩의 성능이 아무리 뛰어나더라도 데이터를 이동하고 저장·처리하는 과정에서 병목이 발생하면 성능을 모두 활용할 수 없다”며 “DPU는 이러한 병목을 해결하는 핵심 장치로, 국내에서 DPU를 직접 설계·개발해 AI 인프라 국산화에 나설 것”이라고 말했다.
※[반도체 라이징 스타] 시리즈는 중소벤처기업부와 창업진흥원이 지원하는 '2026년 초격차 스타트업 프로젝트 (DIPS)' 프로젝트의 일환으로 서울대학교 시스템반도체산업진흥센터와 함께 진행합니다.
권동준 기자 djkwon@etnews.com
