델 테크놀로지스 “온디바이스 AI 모델 최적화에서 앱 개발·배포까지”

Photo Image
델 프로 맥스 위드 GB10 내부

인공지능(AI) 단순 도입을 넘어, 기업 고유 자산인 내부 데이터를 활용해 모델을 미세조정하고 최적화하는 과정이 AI 경쟁력의 핵심으로 부상하고 있다.

하지만, 표준으로 여겨졌던 클라우드 중심 환경은 반복되는 테스트 과정에서 비용 폭증과 보안 및 규제 위반이라는 실질적인 한계를 드러내고 있다. 한편, 일반 기업용 AI PC는 대규모 데이터를 실시간으로 주고받으며 모델을 학습하고 미세조정하기엔 메모리와 대역폭 측면에서 한계가 있어 성능 병목을 초래한다.

◇기업 AI 도입을 저해하는 두가지 요인

기업은 '클라우드는 비용과 보안 문제를 초래하고, 로컬 기기는 성능이 부족한' 중간 지점의 공백 상태에 직면했다.

AI 도입의 실제 난관은 모델 테스트 이후에 시작된다. 많은 기업이 모델 PoC까지는 성공하지만 이를 실제 배포할 때 막대한 코드 재작업이 필요해 지연이 발생한다. 이는 비즈니스 기회 비용의 하락으로 이어진다.

일상적 업무를 처리를 위해 AI 애플리케이션을 활용하는 비중이 높아지고 있다. AI 앱에 대한 수요가 다양해지고 있지만, 모델 선택부터 학습, 배포까지 이르는 과정이 복잡해 실제 도입 속도가 시장 변화를 따라가지 못하고 있다.

Photo Image
다양한 업무 환경에 사용되는 초소형 AI 시스템 '델 프로 맥스 위드 GB10'

◇기업 AI 모델 최적화에 특화된 하드웨어 '델 프로 맥스 위드 GB10'

한 뼘 크기 '델 프로 맥스 위드 GB10'은 AI 모델 테스트부터 데이터센터로 배포까지 지원해 AI 도입에 대한 기업의 보안, 비용, 성능 고민을 모두 해결한다.

델의 엔터프라이즈 인프라 역량을 집약한 '델 프로 맥스 위드 GB10'은 데이터센터 서버와 동일한 컴퓨팅 환경 (NVIDIA DGX OS)을 초소형 폼팩터에 구현, 로컬과 서버 간 경계 없는 개발 경험을 제공한다.

이는 윈도 OS에 기반한 일반 워크스테이션과 구분되는 지점으로, '델 프로 맥스 위드 GB10'을 활용하면 코드 변경 없이 AI 모델을 데이터센터로 곧바로 배포할 수 있다.

아울러 128GB 통합 메모리를 탑재, 엔비디아 커넥트X-7으로 2대를 연결하면 256GB 통합 메모리를 제공한다. 업계 유일의 1TB, 2TB와 4TB 스토리지 옵션도 갖춰 보다 다양한 선택지를 제공, 이를 토대로 온디바이스 환경에서 모델을 테스트하고 미세조정하기에, 외부로 반출할 수 없는 민감한 데이터를 다루는 금융, 제약 등 규제 산업에 최적화돼 있다.

강력한 성능과 대비되는 컴팩트한 폼팩터를 갖췄기에, 연구실·공장 라인 등 공간 제약이 있는 산업 현장에서 진가를 발휘한다.

Photo Image
델 프로 AI 스튜디오를 통한 앱 개발 및 배포 과정

◇빠른 AI 앱 개발과 배포를 위한 소프트웨어 툴킷, '델 프로 AI 스튜디오(Dell Pro AI Studio)'

'델 프로 맥스 위드 GB10'이 '모델 최적화' 단계에서 생기는 AI 인프라 공백을 해결하는 반면, '델 프로 AI 스튜디오'는 오픈소스 경량 언어모델을 활용해 실무형 애플리케이션을 빠르게 개발하고 기기에 배포하도록 돕는 온디바이스 툴킷이다.

일반적 윈도 환경을 지원하는 델의 AI PC 또는 워크스테이션 사용자가 AI 모델을 새로 개발할 필요 없이, 사전 검증된 모델 카탈로그를 활용하도록 설계돼 AI 앱 개발의 진입 장벽을 최소화한다. 인텔, 퀄컴, AMD 등 다양한 실리콘 플랫폼과의 호환성도 갖추고 있다.

사내 데이터를 바탕으로 설계된 맞춤형 AI 앱을 실무에서 즉시 적용할 수 있도록 지원하며, IT관리자가 중앙에서 앱의 배포와 업데이트를 직접 제어할 수 있어, 배포 과정에서 발생할 수 있는 보안 리스크와 운영 복잡성을 획기적으로 줄인다.

◇모델 최적화부터 앱 배포까지…기업 AI 도입을 지원하는 폭넓은 포트폴리오

'델 프로 맥스 위드 GB10'와 '델 프로 AI 스튜디오'는 서로 다른 사용자층과 기술적 니즈를 독립적으로 충족한다.

AI 엔지니어를 위한 '델 프로 맥스 위드 GB10'은 '인프라 솔루션'에 해당하며, LLM을 미세조정하고 데이터센터에 배포하도록 지원해 기업들이 더욱 빠르고 쉽게 AI를 도입할 수 있도록 돕는, 일반 워크스테이션과 서버 사이의 가교 역할을 수행한다.

반면, 소프트웨어 개발자 및 IT 관리자를 위한 '델 프로 AI 스튜디오'는 AI앱의 빠른 개발을 돕고, 조직 내 AI PC에 배포해 일상 업무의 생산성을 높이도록 지원한다.

케빈 터윌리거 델 테크놀로지스 PC 제품 관리 그룹 부사장은 “개인용 컴퓨터 부상으로 모두가 소프트웨어 개발 도구에 접근할 수 있게 됐으며, 클라우드 컴퓨팅의 도입으로 기업이 대규모 애플리케이션에 쉽게 접근할 수 있게 됐다”며 “'델 프로 맥스 위드 GB10'과 같은 책상 위 AI 시스템으로 누구나 고부하 AI 엔지니어링을 수행할 수 있게 됐다”고 소개했다.


임중권 기자 lim9181@etnews.com

브랜드 뉴스룸