아이티센그룹이 기업 및 공공기관의 안전한 생성형 인공지능(AI) 도입을 돕기 위해 AI 가드레일 통합 보안 솔루션 '에이전트고 가드'를 출시했다고 1일 밝혔다.
아이티센그룹은 지난 1월 멀티 AI 에이전트 관리 플랫폼인 '에이전트고 2026'을 공개한 바 있다. 에이전트고 가드는 이와 별도로 도입할 수 있는 독립형 보안 플랫폼이다. 기업이 이미 구축해 둔 AI 에이전트나 검색증강생성(RAG) 환경에도 손쉽게 연동할 수 있어 인프라 구성에 구애받지 않고 유연하게 보안 계층을 더할 수 있다는 설명이다.
최근 생성형 AI와 에이전트 도입이 빠르게 늘면서 프롬프트 인젝션, 민감정보 유출, 지능형 탈옥 시도 등 새로운 보안 위협에 대한 우려도 커지고 있다. '에이전트고 가드'는 이러한 리스크를 사전에 통제하기 위해 다층적 방어 체계를 갖춘 엔터프라이즈 보안 플랫폼으로 개발됐다. 사내 애플리케이션과 RAG, 에이전트 워크플로우에 API 형태로 연동되어 정교한 보안 로직을 수행한다.
주요 기능으로는 다층 방어 및 적대적 공격 방어 체계가 꼽힌다. 금칙어나 정규식 필터링뿐만 아니라 자연어 문맥 분석, LLM 기반 가드레일까지 다단계로 위협을 탐지한다. 대화를 반복해 방어망을 우회하려는 '에코 챔버' 공격이나 지능적인 탈옥 시도도 세션 단위로 실시간 식별해 차단한다.
한국어 및 글로벌 표준을 반영한 정보유출방지(DLP) 기능도 강화했다. 금융결제원 CMS 계좌번호 체계와 국토교통부 차량번호 정규식을 지원하며, 한국정보통신기술협회(TTA) 기준, 미 국립표준기술연구소(NIST), EU 일반개인정보보호법(GDPR) 기준을 준수하는 자연어 처리 모델을 적용했다. 이를 통해 한국인 이름, 주소, 주민등록번호 등 민감정보를 정교하게 비식별화(마스킹)한다.
아울러 실제 운영 환경에 배포하기 전 가상 샌드박스에서 보안 정책과 공격 시나리오를 미리 검증할 수 있는 사전 시뮬레이터 기능을 제공한다. 과도한 차단으로 인한 오탐과 보안 구멍이 생기는 미탐 사이에서 최적의 정책 수치를 조율할 수 있도록 돕기 위해서다.
이 밖에도 모든 호출 로그에 대한 AES-256 및 XSS 방지 처리, 로그 열람 시 관리자 사유 입력 강제, 이상치 발생 시 실시간 메일 알림 등 감사 추적성과 관리 체계를 강화했다. 퍼블릭 클라우드뿐만 아니라 폐쇄망 내 도커 및 쿠버네티스 환경에서도 구동되며, 타사 에이전트 플랫폼과도 연동이 원활하다.
정승모 아이티센글로벌 AI이노베이션센터장은 “에이전트고 가드는 AI의 비윤리적 표현, 프롬프트 인젝션, 기밀 유출, 환각 현상 등을 사전에 차단하는 엔터프라이즈 AI의 핵심 방어선”이라며 “기업들이 리스크 없이 안전하게 AI 생산성을 극대화할 수 있도록 적극 지원하겠다”고 밝혔다.
최호 기자 snoop@etnews.com
