KT가 클라우드 기반 GPU 인프라 제공 서비스 '하이퍼스케일 AI 컴퓨팅'을 출시했다.
하이퍼스케일 AI 컴퓨팅은 고비용 GPU 인프라를 동적 할당 방식으로 제공한다. 실 사용량 기반 종량제 서비스를 선보이는 것은 KT가 처음이다. AI 서비스 전문기업 또는 AI 개발자 등은 GPU 자원을 원하는 시점에 원하는 만큼만 할당받아 사용하고 이후엔 반납하면 된다.
AI 개발과정에서 GPU는 데이터 분석, 모델학습 등 특정 시점에만 활용된다. 하지만 기존 시장에서 독과점적 지위를 누린 외산 GPU 인프라 솔루션은 높은 이용료를 고정 할당 방식으로만 제공, GPU를 사용하지 않는 기간에도 적지 않은 비용이 소요됐다. 반면 KT 하이퍼스케일 AI 컴퓨팅을 이용하면 GPU를 필요한 기간에만 사용할 수 있어 개발비용을 절감할 수 있다.
대규모 GPU 자원 필요 시 원활한 확장 지원도 장점이다. 물리적으로 한 개 서버에서 구동할 수 있는 최대 수량 이상의 GPU를 주변 자원과 클러스터링해 연산에 활용할 수 있다. 특정 시점에 준비된 전체 GPU가 모두 활용돼 일시적으로 자원이 부족하더라도 처리 요청을 자동으로 대기시키고 순차적으로 처리, 서비스 안정성이 뛰어나다.
모델 프로그래밍 호환성도 갖췄다. 하이퍼스케일 AI 컴퓨팅은 멀티 GPU 환경 이용을 위해 기존 개발 소스를 재설계하지 않고 그대로 멀티 GPU 환경을 이용할 수 있다. 개발 단계마다 필요한 자원을 연속적으로 확대·축소 가능해 서비스 중단 없이 개발을 이어갈 수 있다.
KT는 AI 인프라 솔루션 전문기업 모레와 협업을 통해 이번 서비스를 개발했다. KT와 모레는 내년 초대규모 GPU 팜도 구축할 예정이다. 2023년에는 전용 AI 반도체 칩을 제작, GPU 기술 국산화를 추진한다.
KT는 서비스 출시를 기념해 2022년 2월까지 GPU 인프라를 무상제공하는 프로모션을 진행한다. 이용을 원하는 고객은 가상머신(VM) 이용 비용만 지불하면 된다.
윤동식 KT 클라우드·IDC사업추진실장(부사장)은 “하이퍼스케일 AI 컴퓨팅 출시로 대한민국 AI서비스 개발 시장과 문화 패러다임을 변화시킬 수 있을 것”이라며 “AI 전문 기업과 협력을 강화해 AI개발자가 활발하게 활동할 수 있는 생태계를 구현하기 위해 노력하겠다”고 말했다.
박정은기자 jepark@etnews.com
