제논은 생성형 인공지능(AI) 서비스의 보안 위협에 대응하는 AI 가드레일 솔루션 '젠가드(GenGuard)'를 출시했다고 26일 밝혔다.
기업 환경과 보안 정책에 맞춰 AI 서비스의 입력과 응답을 판정·차단하는 기술이 특징이다. 생성형 AI 플랫폼 '제노스(GenOS)'에 탑재된 가드레일 기능을 독립 솔루션으로 개발했다.
별도 모델 학습 없이 자연어로 보안 정책을 설정할 수 있다. 명령에 따라 AI 요청과 응답을 통제하고, 유해 콘텐츠와 AI 안전장치를 우회하는 탈옥 시도, 프롬프트 공격에도 대응한다.
개인정보 보호 기능도 지원한다. 주민등록번호와 계좌번호 등 정형화된 정보뿐 아니라 이름·주소 등 비정형 개인정보도 탐지한다. 외부 AI 서비스로 전송되는 개인정보를 마스킹해 정보 유출을 방지한다.
관찰 모드에서 차단 결과와 업무 영향을 검증하고 오탐 사례를 분석할 수 있다. 내부 서버와 폐쇄망에서 운영하는 온프레미스 환경도 지원한다.
제논은 자체 개발한 경량 가드레일 모델 '젠가드 1.0 라이트(GenGuard 1.0 Light)'와 한국어 정책 평가 데이터셋 'KSPG-Bench'도 공개했다. 해당 모델은 자체 성능 평가에서 공개 가드레일 모델 5종 가운데 평균 84.3점으로 1위를 기록했다.
명대우 제논 부사장은 “보안은 AI 서비스의 신뢰성과 경쟁력을 결정하는 핵심 요소”라며 “국내 기업 환경에 최적화된 AI 보안 기술로 시장을 선도하겠다”고 말했다.
앞서 제논은 인도네시아에서 나이키 신발 제조 공정에 적용할 AI 비전 품질검사 기술의 양산 검증도 통과했다. 신발 밑창의 불량 여부를 자동 판별하는 기술로, 생산라인 검증에서 불량 탐지율 99%를 기록했다.
조벼리 기자 starry@etnews.com
