AI 모델이 더욱 강력해지면서 AI 안전과 보안을 둘러싼 과제도 복잡해지고 있다. 기존 AI 보안이 위협 행위자가 AI를 공격에 활용하는 외부 위험에 주로 초점을 맞췄다면, 이제는 기업 내부에서 데이터와 시스템에 접근해 업무를 수행하는 AI 에이전트까지 지속적으로 감독하고 보호해야 할 필요성이 커지고 있다. 마이크로소프트는 이런 상황에서 위험을 지속적으로 인식하고, 보안 맥락을 기반으로 추론하며, 필요한 조치를 머신 속도로 실행하는 새로운 사이버 보안 체계가 필요하다고 강조하고 있다.
마이크로소프트가 지난 7월 공개한 프로젝트 퍼셉션은 AI 시대의 보안 변화에 대응하기 위해 설계된 대표 에이전틱 보안 시스템이다. 신호와 보안 맥락, 모델, 특화 에이전트를 하나의 지속 학습형 방어 시스템으로 결합해 조직의 디지털 환경 전반에서 위험을 지속적으로 인식하고 추론하며, 필요한 보호 조치로 연결한다.
핵심은 레드팀·블루팀·그린팀으로 구성된 특화 에이전트 기반의 방어 체계다. 레드팀 에이전트는 공격자가 악용하기 전에 잠재적인 침해 경로를 식별하고, 블루팀 에이전트는 보안 맥락을 분석해 실질적인 위험을 판별한다. 그린팀 에이전트는 필요한 시정 조치를 수행해 환경 전반의 방어 체계를 강화한다. 세 에이전트가 함께 작동하면서 조직의 보안 태세를 지속적으로 발견·평가·개선한다.
프로젝트 퍼셉션은 이 같은 특화 에이전트와 조직 전반의 보안 신호 및 맥락을 결합해 AI와 머신 속도로 변화하는 위협에 신속하게 대응하는 것을 목표로 한다. 에이전트가 도출한 인사이트를 실제 보호 조치로 연결하는 동시에, 중요한 의사결정에 대한 최종 통제권은 사람이 유지한다. 이를 통해 보안 담당자가 단순히 더 많은 경고를 처리하는 데 그치지 않고, 위험의 맥락과 우선순위를 파악해 필요한 대응에 집중할 수 있도록 지원한다.
프로젝트 퍼셉션의 에이전틱 보안 체계는 외부에서 발생하는 AI 기반 공격을 방어하는 것을 넘어, 기업 내부에서 활동하는 AI 에이전트를 관리·보호하는 영역으로 확장되고 있다. AI 에이전트는 이제 기업의 데이터와 도구, 시스템에 접근해 중요한 업무를 수행하거나 의사결정에 관여할 수 있다. 마이크로소프트는 이처럼 기업 운영에 직접 참여하는 AI 에이전트를 에이전틱 내부자로 규정하고, 기업이 직접 배포한 에이전트라도 활동과 위험을 지속적으로 파악하고 보호해야 한다고 강조한다. 이와 함께 ID와 권한, 데이터 접근, 엔드포인트, 네트워크, 클라우드, 런타임 등 AI 에이전트 시스템의 여러 계층을 통합적으로 보호하는 보안 접근법을 제시한다.
에이전틱 내부자를 탐지하고 행동 위험을 동적으로 산정해 지속적으로 감독·대응하는 보호 체계도 제공한다. ID와 데이터, 클라우드, 엔드포인트, 네트워크, 런타임 등에서 수집한 신호를 결합해 기업 내 에이전트를 탐지하고, 에이전트가 시도하는 행동과 관련된 위험을 지속적으로 평가한다. 위험 수준이 높아지면 가디언 에이전트가 그린·블루 에이전트와 함께 에이전트의 행동을 능동적으로 감독하고 필요한 부분에 실시간으로 대응한다.
핵심은 AI 에이전트의 속도에 맞춰 위험을 파악하고 대응하면서도 보안 담당자의 판단과 통제권을 유지하는 것이다. 프로젝트 퍼셉션은 에이전트의 행동을 실시간으로 감독하고 위험이 발생한 원인을 확인할 수 있는 추적 정보를 제공한다. 보안 담당자는 이를 바탕으로 필요한 판단을 내리고 정책과 보안 시스템을 상황에 맞게 조정한다. 이를 통해 외부의 AI 기반 공격부터 기업 내부에서 활동하는 AI 에이전트까지, 변화하는 AI 보안 위협에 보다 신속하고 지속적으로 대응할 수 있도록 지원한다.
최호 기자 snoop@etnews.com
