스플렁크(Splunk)가 오는 8월 11일 화요일 오후 3시부터 'AI 시대의 옵저버빌리티: GPU·LLM 모니터링부터 AI 기반 장애 대응까지'를 주제로 온라인 웨비나를 개최한다.
AI 워크로드가 빠르게 증가하면서 GPU 자원의 활용 상태를 정확히 파악하고 LLM 에이전트의 실패 원인을 추적하는 일이 기업의 새로운 운영 과제로 떠오르고 있다. 기존 모니터링 대시보드를 넘어 장애 원인 분석 시간을 단축하고, 숙련된 운영 인력이 부족한 환경에서도 효과적으로 트러블슈팅할 수 있는 방안에 대한 관심도 커지고 있다.
이번 웨비나는 AI 인프라를 관측하는 'O11y for AI'와 AI를 활용해 옵저버빌리티 자체를 지능화하는 'AI for O11y'라는 두 가지 관점에서 AI 시대의 운영 과제를 해결할 수 있는 접근법을 소개한다.
먼저 GPU 자원 활용률과 성능을 실시간으로 파악하기 위해 측정해야 할 핵심 지표를 살펴본다. 이어 LLM 에이전트 파이프라인을 운영할 때 관측해야 하는 대표적인 요소와 장애·성능 저하의 원인을 추적하는 방법을 설명할 예정이다.
AI 어시스턴트를 활용한 장애 탐지와 근본 원인 분석(RCA) 자동화 방안도 다룬다. AI가 다양한 운영 데이터를 분석해 이상 징후를 식별하고 장애 원인 후보를 좁혀가는 과정과 함께, AI 기반 옵저버빌리티 도입을 통해 기대할 수 있는 운영 효율화 효과를 제시한다.
주요 세션은 △GPU 자원 활용률과 성능을 실시간으로 파악하기 위해 측정해야 할 요소 △LLM 에이전트 파이프라인 운영 시 주요 관측 포인트 △AI 어시스턴트를 활용한 장애 탐지 및 근본 원인 분석 자동화 △AI 기반 옵저버빌리티 도입에 따른 운영 효율화 효과 등으로 구성된다.
스플렁크는 실제 적용 사례를 바탕으로 DevOps 및 IT 운영팀이 현업에서 바로 참고할 수 있는 실행 방안과 운영 노하우도 공유할 계획이다.
AI 인프라의 가시성을 확보하고 AI를 활용해 장애 대응 체계를 고도화하려는 기업과 실무자에게 유용한 시간이 될 것으로 기대된다.
자세한 정보 및 등록 신청은 올쇼TV 홈페이지(https://www.allshowtv.com/detail.html?idx=1744)에서 확인할 수 있다.
임민지 기자 minzi56@etnews.com
