마키나락스는 인공지능(AI) 운용체계(OS) '런웨이'에 AI 모델 성능과 인프라 자원, 비용을 통합 관리하는 기능을 추가한 런웨이 2.4를 30일 공개했다.
토큰 사용량 통합 대시보드, 입력 데이터 드리프트 감지, 추론 요청·응답 로깅, 추론 성능 모니터링, 워크로드 단위 자원 모니터링 기능 등을 추가했다. 기업이 AI 성능·자원·비용을 직접 파악하고 통제하는 '기업 AI 주권'을 강화하는 데 초점을 맞췄다고 회사는 설명했다.
토큰 사용량 통합 대시보드는 조직·프로젝트·모델별 거대언어모델(LLM) 토큰 소비량을 한 화면에서 제공한다. 온프레미스·클라우드 등 배포 환경과 관계없이 AI 비용을 집계할 수 있다.
모델 품질 관리 기능도 강화했다. 입력 데이터 드리프트 감지 기능은 입력 데이터와 기준 데이터 간 분포 변화를 자동 감지해 모델 성능 저하 가능성을 파악한다. 이상 조건에 도달하면 사용자에게 알림을 제공한다. 추론 요청·응답과 모델 정확도도 기록·추적해 재학습 시점 판단을 지원한다.
그래픽처리장치(GPU)·중앙처리장치(CPU)·메모리·스토리지 사용량은 개별 워크로드 단위까지 확인할 수 있다. 워크스페이스·프로젝트·생성자별 자원 사용 통계에서 인프라 자원 배분 현황과 장애 징후도 파악할 수 있다.
심상우 마키나락스 최고기술책임자(CTO)는 “성능·자원·비용에 대한 자율적 통제권 확보는 자사 AI를 주도적으로 운영하는 기업 AI 주권 실현의 핵심”이라고 말했다.
앞서 마키나락스는 기업 경쟁력 강화를 위한 핵심 개념으로 기업 AI 주권을 제시했다. 기업 내부 지식·데이터·노하우·프로세스를 통제 가능한 AI에 축적해 전략적 자산으로 활용하는 것이 핵심이다.
조벼리 기자 starry@etnews.com
