모빌린트(대표 신동주)는 자사 신경망처리장치(NPU)가 글로벌 AI 소프트웨어 생태계에서 활용될 수 있는 기반을 확대했다고 4일 밝혔다.
모빌린트 NPU가 오픈소스 분산 AI 프레임워크 '레이(Ray)'에서 자동으로 인식하고 관리할 수 있도록 개발한 기능이 레이 공식 코드에 반영됐다 .
레이는 여러 서버와 AI 가속기를 연결해 대규모 AI 학습·추론을 처리하는 소프트웨어를 말한다. AI 모델 학습과 추론, 데이터 처리 등 다양한 분야에서 활용되고 있다. 대규모 AI 인프라를 운영하기 위한 주요 기술 중 하나다.
기존에는 모빌린트 NPU를 쓰려면 개발자가 직접 장치를 등록하고 할당해야 했다. 이번 통합으로 레이가 NPU를 자동으로 인식하고 작업에 필요한 자원을 자동으로 할당할 수 있게 되었다. 여러 대의 NPU나 서버가 연결된 환경에서도 작업별로 구분해서 관리할 수 있다.
이번 성과는 한국전자통신연구원(ETRI)이 수행 중인 '이종 AI반도체용 분산추론 및 모델 최적화 기술 개발' 과제의 일환으로, ETRI 연구진과 모빌린트가 협력해 개발한 결과다. 해당 기능은 레이 프로젝트의 공식 코드 리뷰 과정을 거쳐 지난 8월 13일 공식 깃허브(GitHub) 저장소의 메인 브랜치에 반영됐다.
모빌린트 관계자는 “고성능 AI 가속기를 중심으로 산업용 엣지 및 온프레미스 AI 시장을 확대하고 있다”며 “소프트웨어 기술을 고도화하고 글로벌 AI 개발 프레임워크와의 연동을 확대해 하드웨어와 소프트웨어를 아우르는 AI 컴퓨팅 생태계를 강화해 나갈 계획”이라고 말했다.
이형두 기자 dudu@etnews.com
