산업용 엣지 인공지능(AI) 플랫폼 기업 어드밴텍이 엔비디아(NVIDIA)의 최신 가속 컴퓨팅 기술을 바탕으로 오픈 소스 대규모 언어 모델(LLM)의 엣지 배포 생태계 확장에 나섰다.
어드밴텍은 최근 자사 엣지 AI 컴퓨팅 플랫폼에 메타(Meta)의 Llama, 딥시크(DeepSeek) 등 최신 오픈 LLM을 지원하며, 산업 현장에서 실시간·저지연 AI 추론을 가능케 하는 다양한 제품을 선보였다고 7일 밝혔다. 이를 통해 산업용 엣지 AI 시장에서 선도적 입지를 강화하고 있다는 설명이다.
해당 플랫폼은 엔비디아 풀 스택 가속 컴퓨팅, TensorRT-LLM 최적화, Jetson 플랫폼을 기반으로 구축됐다. 경량 AI 추론부터 도메인 특화 AI 훈련까지 폭넓은 AI 워크로드를 지원하며, 온 디바이스 챗봇, 산업 모니터링, AI 기반 문서 요약, 의료 진단 보조 등 다양한 산업 애플리케이션에 적용 가능하다.
어드밴텍이 공개한 주요 엣지 AI 시스템은 △Jetson Orin NX 기반의 MIC-711-OX(100 TOPS) △Intel i7과 RTX 4000 기반의 MIC-770V3 + MIC-75M20(300 TOPS) △AMD EPYC와 RTX 4500 듀얼 GPU를 탑재한 SKY-602E3(1000+ TOPS) 등이다. 각 제품은 경량 AI 추론, LLM 기반 도우미, 도메인 맞춤형 LLM 학습 등 목적에 맞춰 활용할 수 있다.
어드밴텍 관계자는 “엔비디아의 GPU 및 Jetson 기술을 기반으로 엣지 네이티브 AI를 가속화하고, 다양한 산업 현장에 LLM 기반 혁신을 실현해 나가겠다”며 “엣지 AI 기술을 통해 오픈 LLM의 실사용 범위를 넓히고, 차세대 산업 애플리케이션의 기반을 마련하겠다”고 밝혔다.
LLM 기반 어드밴텍 엣지 AI 플랫폼에 대한 보다 자세한 정보는 공식 홈페이지에서 확인할 수 있다.
김정희 기자 jhakim@etnews.com
