“초거대언어모델(LLM) 수요가 폭증하면서 클라우드 네이티브로 전환은 필수가 되고 있습니다.”
이광범 데이터얼라이언스 대표는 'K-클라우드 네이티브 서밋 2024'에서 AI 시대 GPU 활용 전략을 밝혔다.
LLM의 응용프로그램 인터페이스(API)를 이용하거나 오픈소스 기반으로 AI 모델 개발에도 프로그램이 컨테이너화가 돼 있어 클라우드네이티브로 전환은 필연적이다.
기업들은 AI 시대에 가장 큰 고민으로 비용 문제를 꼽는다.
이 대표는 “AI 시대가 되면서 GPU 가격이 폭등하고 있다”며 “기업들은 부담스러운 개발, 운영비로 GPU를 중심으로 AI 인프라를 확보하는 게 쉽지 않다”고 말했다.
그러면서 “유일한 해답은 공유경제 모델”이라며 “클라우드로 유휴자원 활용 공유 모델로 자본 문제를 해결해줄 수 있다”고 덧붙였다.
데이터얼라이언스의 지큐브(gcube) 서비스는 전세계 GPU를 연결해 경쟁력 있는 가격으로 공급하는 GPU 공유경제 서비스다.
지큐브는 전세계 유휴 GPU를 공유해 GPU 수요자에게는 최대 70% 저렴한 클라우드 컴퓨팅 서비스를 제공하고, GPU공급자에게는 부가 수익을 준다.
시간단위로 자유롭게 사용량 조절이 가능하며, 블록체인으로 정산이 이뤄진다. 기존 클라우드와도 호환이 가능하다.
이 대표는 “기업이 직접 AI 인프라를 구축하려면 GPU뿐만 아니라 인건비, 기술력까지 필요하다”며 “AI 대전환이 현실적으로 이뤄지려면 공유 모델 시대가 올 것”이라고 강조했다.
박두호 기자 walnut_park@etnews.com
