광주 국가인공지능(AI)데이터센터가 최근 그래픽처리장치(GPU) 품귀현상으로 어려움을 겪고 있는 AI기업 및 기관의 단비가 되고 있다.
특히 AI 제품 개발에 최적화된 것으로 알려진 엔비디아의 GPU 'H100'이 탑재된 서버를 갖춘 국가AI데이터센터에 수요가 몰리면서 'AI 중심도시 광주'의 존재감이 부각되고 있다.
광주시는 북구 첨단3지구에 국가AI데이터센터를 건립, 지난해 11월15일부터 서비스에 들어갔다. 국가AI데이터센터는 총 연산량 88.5페타플롭스(PF)와 저장용량 107페타바이트(PB) 규모로 구축됐다. 센터에서는 현재 국내 AI기업, 공공기관, 대학 등 총 742건의 과제를 무상 지원하고 있다.
국가AI데이터센터는 고성능 AI 가속기를 통해 짧은 시간 내 방대한 데이터의 딥러닝 학습과 데이터 분석·활용을 지원하는 등 AI 연구개발에 최적화된 기반시설을 제공한다.
특히 전체 가속기의 3분의 2를 엔비디아의 최신 GPU인 'H100'으로 구성했다. H100을 이용해 서비스를 제공하는 것은 아시아 최초이다.
생성형 AI가 등장하며 GPU 기반시설을 이용하려는 수요가 폭발적으로 늘고 있다. AI 모델 개발을 위한 학습과 추론에 필수적인 컴퓨팅 자원을 지원받기 위한 경쟁률은 2대 1 수준이다.
시는 국내 AI산업 수요와 성장 속도에 비춰 볼 때 앞으로 컴퓨팅 자원을 할당받기 위한 경쟁률은 지속적으로 상승할 것으로 내다봤다. 최근 전 세계적으로 AI 관련 기업의 수요가 폭증하고 있는 데 반해, 기업과 연구기관들은 GPU 자원 수급에 어려움을 겪고 있기 때문이다.
국가AI데이터센터는 7월부터 대형 AI 모델과 생성형 AI 개발 등을 본격적으로 지원하기 위해 'H100'으로만 구성된 20페타플롭스(PF) 규모의 초고성능 컴퓨팅 지원(HPC) 서비스를 갖춰 초거대 AI 맞춤형 대형 과제도 지원할 예정이다.
시는 과학기술정보통신부와 함께 지난 2021년부터 AI 기업에게 컴퓨팅 자원을 지원하고 있다. 지금까지 약 1500여건의 과제를 지원하며 지속적으로 성과를 창출하고 있다.
김용승 인공지능산업실장은 “최근 AI 기업이 GPU 수급에 어려움을 겪고 있는 상황”이라며 “혁신적인 아이디어를 갖고 있는 AI 기업들이 광주에 찾아온다면 최신의 GPU를 적시에 제공할 수 있도록 최선을 다해 지원하겠다”고 말했다.
광주=김한식 기자 hskim@etnews.com
