[ET단상] AI 에이전트 시대, 기업의 속도를 결정하는 것은 '엔진'이 아닌 '브레이크'

Photo Image
현상준 서비스나우 한국 대표

국내 기업의 관심이 질문에 답하는 인공지능(AI)을 넘어 업무를 직접 수행하는 AI 에이전트로 옮겨가고 있다. 올해 1월 AI기본법이 시행되면서, AI의 투명성과 안전성을 확보하는 일 역시 경영진의 핵심 과제로 떠올랐다. 이제 경영진에게 중요한 질문은 'AI를 어디에 도입할 것인가'에 그치지 않는다. AI를 어떻게 안전하게 운영하고 비용을 관리할 것인지도 함께 고민해야 한다.

국내 기업의 AI 도입 열기가 뜨거운 가운데, 예상치 못한 비용 관리 문제에 직면하는 사례도 나타나고 있다. 일부 국내 기업이 1년 치 AI 예산을 불과 3~6개월 만에 소진한 바 있다. 이 비용은 토큰 사용료에 그치지 않고, 데이터 준비와 인프라 운영에까지 걸쳐 발생했다. 이러한 예산 초과와 접근 권한 위험, 두 문제의 뿌리는 같다. AI 에이전트가 무엇을 하고 있는지 기업이 파악하지 못한다는 점이다.

AI 투자와 실행 사이의 격차는 서비스나우의 '2026 엔터프라이즈 AI 성숙도 지수'에서도 확인된다. 국내 기업의 AI 지출은 전년 대비 120% 증가해, 조사 대상 아시아태평양 시장 가운데 가장 빠른 증가세를 기록했다. 그러나 한국의 AI 성숙도 종합 점수는 52점으로 아시아태평양 평균과 비슷한 수준에 그쳤다. 에이전틱 AI를 도입한 국내 기업은 52%에 달하지만, 이를 자율적인 멀티 워크플로 구축에 활용하는 기업은 9%뿐이다.

이제 과제는 AI 투자와 도입을 실제 비즈니스 성과로 연결하는 일이다. 개인의 생산성 향상을 넘어 기업 전반의 생산성을 높이려면, 더 복잡한 업무를 AI에 맡길 수 있어야 한다. 하지만 AI가 정보 검색이나 문서 초안 작성을 넘어 결제 처리까지 맡게 되면, 오류가 불러오는 결과도 달라진다. 필요할 때 개입해 실행을 멈출 수 있다는 확신이 있어야 기업은 더 많은 업무 프로세스에 AI를 확대할 수 있다.

기업에는 통제와 실행을 위한 세 가지 핵심 토대가 필요하다.

첫째, 기업은 AI 에이전트가 실제로 업무를 수행하는 시점, 즉 런타임에 접근 통제를 적용해야 한다. 승인되지 않은 데이터 접근이나 잘못된 결제로 일단 피해가 발생하면, 사후 감사만으로는 그 피해를 되돌리기 어려울 수 있다. 권한을 벗어나 결제를 승인한 에이전트의 행동은 일주일 뒤에 작성된 보고서로 되돌릴 수 없다. 그 출발점은 각 에이전트의 신원을 확인하고 접근 권한을 명확히 정의하는 것이며, 이를 위해 허용된 범위를 증명하는 검증 가능한 자격 증명을 활용해야 한다.

둘째, 기업은 AI 에이전트를 디지털 직원으로 관리해야 한다. 직원에게 ID와 접근 권한을 부여하고 성과를 평가하듯, AI 에이전트에도 명확한 역할과 책임을 지는 담당자를 지정해야 한다. 책임 소재와 결재 체계를 중시하는 국내 기업 문화에서 이는 기존 업무 방식의 자연스러운 연장선이다. 공식적인 관리 체계 밖에서 운영되는 '섀도 AI 에이전트'는 조직이 알아채지 못하는 사이 민감한 데이터에 접근할 수 있다. 따라서 가장 먼저 할 일은 기업 전반에서 운영되는 모든 AI 에이전트를 찾아내 목록으로 관리하는 것이다. 또한 각 에이전트의 담당자, 접근하는 데이터, 실행 이력을 한곳에서 파악할 수 있는 중앙 가시성도 갖춰야 한다.

셋째, 기업은 토큰 사용량만이 아니라 AI 에이전트별 비용과 투자수익률(ROI)을 추적해야 한다. AI를 많이 쓴다고 곧바로 경쟁 우위가 생기는 것은 아니다. 기업은 AI가 어떤 업무를, 얼마나, 어느 정도의 비용으로 개선했는지 알아야 한다. 업무 처리 시간과 시장 출시 소요 시간이 얼마나 줄었는지가 성과를 보여주는 지표가 될 수 있다. 이러한 성과는 에이전트별로 발생한 비용과 함께 평가해야 투자수익률을 제대로 가늠할 수 있다.

시속 200㎞로 달릴 수 있는 자신감은 강력한 엔진만으로 생기지 않는다. 필요할 때 브레이크로 차를 멈춰 세울 수 있다는 믿음이 있어야 한다. AI도 마찬가지다. 경쟁 우위는 얼마나 많은 AI 도구를 도입했느냐보다, 이를 얼마나 안전하게 운영하고 성과와 비용을 얼마나 효과적으로 관리하느냐에 달려 있다. 앞서 나가는 기업은 가장 중요한 업무까지 AI에게 안심하고 맡길 수 있는 통제 체계를 갖춘 기업이다.

현상준 서비스나우 한국 대표 contact_korea@servicenow.com

  • 놓치면 아쉬운 정보AD

브랜드 뉴스룸