노타가 인공지능(AI) 모델 최적화 기술을 기반으로 기업 AX(AI 전환)를 지원한다. 모델 경량화·최적화를 넘어 AI 에이전트 운영, 데이터센터 인프라, 피지컬 AI까지 적용 범위를 넓혔다.
노타는 AI 모델 구조와 그래픽처리장치(GPU)·신경망처리장치(NPU)·중앙처리장치(CPU) 등 하드웨어별 연산 특성을 분석해 서비스 환경에서 AI 구동 효율을 높이고 있다. 모델 경량화부터 하드웨어 최적화, 배포와 성능 검증까지 AI 서비스 적용 전 과정을 지원한다.
핵심 플랫폼은 AI 모델 최적화 플랫폼 '넷츠프레소'다. 프루닝과 양자화, 그래프 최적화 등을 활용해 거대언어모델(LLM)·시각언어모델(VLM) 등을 목표 하드웨어에 맞게 최적화한다. 모델 정확도뿐 아니라 처리 속도, 메모리 사용량, 전력 효율 등 실제 운영에 필요한 지표를 종합적으로 고려한다.
최적화 기술을 실제 산업에 적용한 '노타 비전 에이전트(NVA)'도 운영한다. VLM을 활용해 영상을 실시간 분석하고 이상 상황을 탐지하거나 관제 보고서를 자동 작성하는 솔루션이다. 지능형 교통 관제와 산업 안전 등으로 활용 영역을 넓히고 있다.
최근에는 기업 AX 수요에 맞춰 AI 에이전트 운영 영역으로 기술을 확장했다. 다수 AI 에이전트가 사용하는 모델 추론 과정, 컴퓨팅 자원, 운영 환경을 최적화해 기업이 보유한 인프라에서 AI 서비스를 효율화하도록 지원한다. 모델 경량화와 추론 최적화를 넘어 에이전트 간 연계, 검색증강생성(RAG), 실행 환경 구축까지 제공한다.
데이터센터 영역에서는 거대 모델 GPU·메모리 사용량을 줄여 기업의 AI 인프라 부담을 낮춘다. 업스테이지 2500억개 매개변수 모델 '솔라 오픈2'를 경량화해 기존 엔비디아 GPU 8장이 필요했던 모델을 2장 규모로 효율화했다. 정부 '독자 AI 파운데이션 모델' 사업과 '모두의 AI' 사업에도 각각 업스테이지, SK텔레콤 컨소시엄으로 참여하고 있다.
노타는 피지컬 AI로 최적화 기술의 적용 범위를 확대한다. LG전자·모빌린트와 함께 VLM을 국산 NPU와 실제 로봇 환경에 맞춰 최적화하는 등 모델·반도체·로봇을 연결하는 피지컬 AI 최적화 기술을 고도화한다.
조벼리 기자 starry@etnews.com
