AI·소프트웨어 검증 전문 기업 슈어소프트테크가 2026년을 맞아 수립한 전략 중 하나인 Trustworthy AI 사업을 본격화한다고 밝혔다. 연초 슈어소프트테크는 Vertical AI, Physical AI와 더불어 Trustworthy AI를 3대 핵심 축으로 설정했으며, 이에 따라 관련 사업과 기술, 역량을 강화하고 있다.
최근 AI 에이전트가 기업의 실제 업무 환경에서 활용되는 사례가 늘어나면서 AI 산업계에서는 AI 에이전트의 데이터 유출 위험을 사전에 점검하고 검증하는 체계 마련에 대한 필요성이 커지고 있다. 이러한 흐름에 맞춰 슈어소프트테크는 한국 인공지능안전연구소(AISI)와 협력해 실제 업무 환경을 가정한 AI 에이전트 데이터 유출 위험 점검 테스트에 참여했다.
예를 들어 여행 예약을 대행하는 여행사에서 여러 고객의 호텔 예약 업무를 수행할 때, 최저가 호텔을 검색하고 예약과 결제를 처리하게 된다. 이 과정에서 고객의 생년월일이나 전화번호, 신용카드 번호 등 고객의 민감한 정보가 외부에 유출되지 않는지 또는 예약 과정과 관련 없는 업무에 사용될 위험이 있는지를 점검하고 검증했다.
이번 검증 과정을 통해 AI 에이전트가 실무 환경에 적용될 경우 업무의 결과뿐 아니라 업무가 진행되는 절차를 분석하여 AI 에이전트의 행동 이력을 함께 확인하는 것이 데이터 유출 위험을 판단하는 데 중요하다는 점을 확인했다. 이는 AI 에이전트의 신뢰성과 안전성을 평가하는 기준과 방향성을 제시했다는 점에서 의미가 있다.
최경화 슈어소프트테크 AIV 연구소장은 “2026년을 맞아 Trustworthy AI 역량을 강화함과 동시에 관련 AI 에이전트를 개발하고 있으며, 이번 데이터 유출 위험 검증 또한 그 전략의 연장선상에 있다”며 “앞으로도 AI 안전 연구 기관과 협력해 산업 현장에서 활용되는 AI를 보다 신뢰할 수 있게 만드는 데 노력하겠다”고 밝혔다.
이원지 기자 news21g@etnews.com
