매니코어소프트가 AI 슈퍼컴퓨팅의 고질적인 발열 문제를 해결할 차세대 액체냉각 시스템 '딥가젯(deep gadget)'을 '2024 월드IT쇼(WIS 2024)'에서 선보였다.
딥가젯은 인공지능(AI)용 GPU 기반 병렬 컴퓨팅의 발열 문제를 획기적으로 개선할 수 있는 제품이다. 액체냉각 라디에이터 개발로 엔진을 직접 냉각하는 자동차 냉각 방식을 AI 서버에 도입했다. 일반 서버 대비 학습·추론·연산·랜더링 과정에서 많은 전력과 그에 비례하는 높은 발열 문제를 가지고 있는 AI 서버의 성능 제한과 수명 단축을 방지할 수 있다.
박정호 매니코어소프트 대표는 “WIS를 통해 텐스토렌트와 퓨리오사AI의 NPU 등 다양한 AI 서버에 최적화된 액체냉각 완제품 기술을 소개할 수 있었다”라며 “딥가젯 시스템은 높은 성능 대비 낮은 비용으로 기존 공냉식 서버를 손쉽게 대체할 수 있는 만큼 올해 AI 시장 확대와 함께 본격적인 성장이 예상된다”고 기대감을 표했다.
매니코어소프트는 서울대학교 멀티코어 컴퓨팅 연구실(현 천둥 연구실) 구성원들이 의기투합해 설립한 회사다. 국내 최초의 GPU 슈퍼컴퓨터 '천둥'을 자체 설계하고 구축했던 노하우를 딥가젯에 담았다. 딥가젯은 고밀도로 GPU를 장착해 스팩을 키우면서도 액체냉각 시스템을 통해 발열에 따른 성능저하 문제가 발생하지 않는 기술력을 과시해 전시장 방문객들의 많은 관심을 받았다.
매니코어소프트는 열전도가 높은 구리 냉각판을 열원에 직접 부착해 열전도율을 높이고, 라디에이터와 쿨링팬으로 식혀진 냉매가 바로 구리 냉각판 고밀집 핀을 통과시키는 방식으로 딥가젯 액체냉각 효율을 극대화했다. 일반 공냉식 서버의 경우 GPU 집적도에 따라 10~20%의 성능 저하가 발생하는 것과 달리 딥가젯은 최대치 대비 98%의 성능을 유지할 수 있다고 회사 측은 설명했다.
전시부스에는 매니코어소프트는 물론, 총판인 웨이브파이브도 딥가젯 비즈니스에 동참하며 국내 AI 서버 시장에 새로운 트렌드를 제시하겠다는 의지를 내비쳤다. 최근 글로벌 AI 시장에서 가장 이목을 끌고 있는 글로벌 기업 텐스토렌트도 매니코어소프트 전시 부스에서 RISC-V 기반 AI 워크로드를 가속할 PCI-e 타입의 하드웨어와 소프트웨어·시스템 등을 소개했다. 텐스토렌트는 웨이브파이브와 공식 파트너십을 맺고 있다.
김홍욱 텐스토렌트 지사장은 “한국 기업들은 비즈니스상 AI와 RISC-V 기술을 활용하는 것이 얼마나 중요한지와 솔루션을 추진하기 위한 혁신적인 기술이 필요하다는 것을 잘 이해하고 있다”며 “파트너인 매니코어소프트 및 웨이브파이브와 협력해 AI 및 RISC-V CPU 기술로 고객 비즈니스 성장을 돕기 위해 최선을 다하고 있다”고 했다.
윤덕노 웨이브파이브 대표는 “향후 CPU, GPU 뿐만아니라 FPGA를 포함한 이종간의 하드웨어 자원을 활용하는 기술은 필수적이며 NPU 시장은 AI 산업 전체를 가속할 것으로 보인다”며 “국내 최고의 액체냉각 기술을 보유한 매니코어소프트와 AI 글로벌 스타트업 텐스토렌트와 함께 같은 고객에게 최고의 결과물을 제공하겠다”라고 말했다.
조정형 기자 jenie@etnews.com
