에버스핀은 AI 안전성 전문기업 티냅스와 AI 모델의 보안 취약점과 안전성을 검증하는 사업을 공동 추진한다고 6일 밝혔다.
양사는 AI 시스템을 공격자 관점에서 시험하는 'AI 레드티밍' 서비스를 고도화한다. AI 시스템의 설계 단계부터 운영 단계까지 발생할 수 있는 보안 위협과 오작동 가능성을 점검할 계획이다.
주요 점검 대상은 프롬프트를 조작해 AI가 의도하지 않은 답변을 내도록 하는 '프롬프트 인젝션'과 AI의 안전장치를 우회하는 '탈옥', 그리고 데이터 유출, 권한 오남용 등이다.
에버스핀은 금융, 공공, 플랫폼, 제조 분야 기업을 대상으로 AI 서비스의 안전성과 신뢰성을 검증하는 서비스를 제공할 예정이다. 글로벌 규제와 국제 표준에 대응할 수 있는 AI 신뢰성 평가 체계도 확대한다.
에버스핀은 AI 모델 검증 서비스를 추가하면서 기존 해킹·피싱 방지 솔루션에서 사업 영역을 넓히게 됐다.
하영빈 에버스핀 대표는 “AI를 안전하고 신뢰할 수 있게 운영하는 것이 중요해지고 있다”며 “이번 협력을 계기로 글로벌 시장에서 경쟁력 있는 AI 보안 서비스를 선보이겠다”고 말했다.
박진형 기자 jin@etnews.com
