인공지능(AI) 데이터센터의 확장성 확보를 위해 고속 백엔드 네트워크와 멀티플레인 아키텍처, 통합 운영체계 중요성이 강조됐다.
최수영 시스코코리아 상무는 “AI데이터센터는 스케일업 뿐만 아니라 GPU 클러스터를 크게 확장하는 스케일아웃, 여러 데이터센터를 연결하는 스케일어크로스까지 함께 고민해야 한다”며 “특히 GPU 간 통신을 담당하는 백엔드 네트워크를 얼마나 고속·대규모로 구성할 수 있느냐가 AI 인프라 성능을 좌우할 것”이라고 말했다.
그는 “GPU당 요구 대역폭이 1.6Tbps로 높아지면서 기존 싱글플레인 구조만으로는 확장에 한계가 있다”며 “듀얼·멀티플레인 구조를 적용하면 네트워크를 여러 경로로 분산해 더 큰 GPU클러스터를 구성할 수 있다”고 설명했다. 시스코의 멀티플레인 구조를 적용하면 최대 3만2000개까지 GPU를 확장할 수 있다. 멀티플레인 구조는 한쪽 네트워크에 장애가 발생해도 다른 경로로 서비스를 이어갈 수 있고 스위치·광모듈·케이블 수를 줄여 초기 투자비용도 낮출 수 있다.
운영 효율성도 짚었다. 최 상무는 “프론트엔드·스토리지·관리망·GPU 백엔드 네트워크를 단일 플랫폼에서 관리하면 대규모 AI 네트워크의 복잡성을 줄일 수 있다'며 ”AI를 활용한 장애 분석과 운영 자동화도 중요해진다“고 말했다. 시스코는 대화형 AI 기반 운영 환경을 통해 네트워크 성능 저하 구간을 분석하고 설정 변경 방안을 제시하는 방식을 도입했다.
최 상무는 “AI 인프라는 막대한 비용이 투입되는 만큼 시행착오를 줄이고 안정적 환경을 빨리 구축하느냐가 경쟁력”이라며 “엔비디아와 함께 대규모 GPU 환경을 위한 레퍼런스 아키텍처를 마련하고 있다”고 말했다.
공동기획: 전자신문·한국지능정보사회진흥원
최다현 기자 da2109@etnews.com
