인공지능(AI) 에이전트를 도입하는 기업이 빠르게 늘고 있지만, 상당수 기업이 이미 예상치 못한 문제를 경험한 것으로 나타났다. 관리자로부터 승인되지 않은 시스템 접근과 민감 데이터 조회·공유 사례가 확인된 것이다.
27일 세일포인트가 디멘셔널 리서치와 함께 조사한 'AI 에이전트: 보안의 새로운 공격 표면' 설문조사에 따르면 AI 에이전트를 82%의 기업이 도입한 가운데 80%는 AI 에이전트가 의도하지 않은 작업을 수행했다고 응답했다.
구 치펑 세일포인트 아시아태평양(APAC) 솔루션 엔지니어링 부사장은 “AI 에이전트는 목표를 달성하기 위해 다양한 시스템과 데이터를 탐색하는 구조를 갖고 있다”며 “이 과정에서 의도하지 않은 데이터 접근이 발생할 수 있다”고 설명했다.
실제 승인되지 않은 시스템 접근이 39%로 가장 많았고, 민감 데이터 접근(33%), 데이터 다운로드 허용(32%), 부적절한 데이터 공유(31%) 등이 뒤를 이었다. AI 에이전트가 외부 유도에 의해 액세스 자격 증명을 노출한 사례도 23%에 달했다.
구 부사장은 “AI 에이전트는 여러 애플리케이션과 서비스에 걸쳐 권한을 활용하기 때문에 기존 계정 중심 보안 체계로는 행위를 통제하는 데 한계가 있다”며 “데이터 접근과 활용 흐름을 함께 관리하지 않으면 위험이 빠르게 확대될 수 있다”고 설명했다.
이 같은 문제로 응답 기업의 96%는 AI 에이전트를 증가하는 보안 위협으로 인식하고 있었고, 66%는 해당 위험이 이미 현재 진행형이라고 답했다.
그러나 대응 체계는 충분히 구축되지 않은 상태다. 응답자의 92%가 AI 에이전트 거버넌스가 중요하다고 답했지만, 실제 정책을 운영 중인 기업은 44%에 그쳤다. AI 에이전트가 접근하는 데이터를 추적·감사할 수 있다고 답한 기업도 52%에 불과했다.
실제 사고 사례도 이어지고 있다. 맥도날드는 지난해 채용 AI 시스템에서 취약점이 발생해 약 6400만건의 개인정보가 유출된 바 있으며, 맥킨지와 앤트로픽에서도 AI 관련 데이터 및 코드 유출 사고가 발생했다.
세일포인트는 이에 대응해 지난해 10월 'AI 에이전트 아이덴티티 시큐리티(AIS)'를 출시했다. AI 에이전트의 접근 권한을 관리하고, 사용 주체와 데이터 흐름을 함께 추적할 수 있도록 설계됐다. 20년 이상 휴먼 아이덴티티 거버넌스를 수행해온 경험을 바탕으로 AI 에이전트 관리 체계를 만들었다.
구 부사장은 “많은 기업들이 AI를 빠르게 도입하고 있지만 인간 계정, 클라우드 권한, AI 에이전트를 각각 따로 관리하는 경우가 많다”며 “이렇게 되면 사일로(silo) 현상이 발생해 전체 흐름을 파악하기 어렵고 보안 리스크를 제대로 관리할 수 없다”고 말했다.
이어 “세일포인트는 분산된 AI 에이전트를 하나의 플랫폼에서 통합 관리해 전체 사용 현황을 파악하고 보안 위험을 줄일 수 있다”며 “AI 도입 속도에 맞춰 거버넌스와 통제 체계를 함께 갖추는 것이 중요하다”고 조언했다.
박진형 기자 jin@etnews.com
