인공지능(AI) 인프라 전문 스타트업 바로AI가 클라우드 환경에서 그래픽처리장치(GPU) 인프라를 제공하는 '서비스형 그래픽처리장치(GPUaaS)' 사업을 본격화한다.
바로AI는 멀티 GPU 활용을 지원하는 GPU 서버 '포세이돈'에 이어 자체 인프라 기반 GPUaaS 제공을 시작했다고 19일 밝혔다.
바로AI는 엔비디아 한국지사장을 13년간 역임한 이용덕 대표가 '누구든 AI를 바로 시작할 수 있도록 연구환경(R&D)을 지원한다'는 목표로 설립한 AI 인프라 회사다.
AI 모델 학습과 고성능 연산에 최적화된 엔비디아 H100 GPU 기반 서버를 중심으로 연구소, AI 스타트업, 대학, 기업 등에 맞춤형 인프라를 지원한다. 경기도 하남에 엔비디아 H100 최대 500장을 동시에 가용할 수 있는 데이터센터를 마련했다.
바로AI는 서울대·포항공대·KAIST 등 50개 이상 전국 주요 대학·연구기관에 멀티 GPU 서버를 보급한 경험을 토대로 GPUaaS로 거대 AI 모델 연구에 최적화된 환경을 구현했다.
GPUaaS를 구독하면 필요한 만큼 인프라를 실시간 확장할 수 있는 데다 연구실 내 별도 인프라를 구축하지 않아도 사용할 수 있다. 고객별 서버를 철저히 분리·운용, 퍼블릭 클라우드가 아닌 프라이빗 클라우드 방식으로 보안성도 강화했다. 수냉식 채택으로 공랭식 대비 30% 정도 전력 절감이 가능하다.
아마존웹서비스(AWS) 등 외산 서비스 대비 사용 비용을 40% 절감할 수 있고, '블랙웰' 등 최첨단 GPU 도입 시 유연하게 대응할 수 있는 것도 강점이다.
바로AI는 AI 연구에 필요한 인프라뿐 아니라 소프트웨어와 유지보수까지 올인원 서비스를 제공한다. 고속 네트워크·고성능 컴퓨팅·데이터 최적화 기술을 갖춘 맞춤형 서버는 것은 물론, 알고리즘 효율성을 최적화한 클러스터 환경에서 더 적은 연산 자원으로 높은 성능을 발휘하도록 지원한다.
향후 보다 많은 고객사가 안정적인 AI 컴퓨팅 환경에서 연구를 수행할 수 있게 고성능 AI 전용 데이터센터를 추가 구축할 예정이다. 지속적인 투자와 기술 개발로 글로벌 AI 인프라 시장 진출도 추진한다.
이용덕 바로AI 대표는 “AI 인프라 중요성이 커지는 가운데 바로AI는 GPU 서버와 데이터센터 기술을 바탕으로 GPUaaS 시장을 선도할 것”이라며 “최고 수준의 AI 인프라 환경을 제공, 연구소는 물론 기업에서도 보다 효율적으로 AI 모델을 개발하고 운영하도록 지원할 계획”이라고 말했다.
박종진 기자 truth@etnews.com
