인공지능(AI) 모델의 견고성(Robustness)을 국제 표준 기반으로 평가하는 글로벌 인증 체계에 국내 AI 신뢰성 전문기업 씽크포비엘의 핵심 기술이 탑재된다.
7일 업계에 따르면 씽크포비엘은 ISO/IEC 24029 표준 분야의 선두기업 프랑스 누말리스(Numalis)와 기술 통합 작업을 진행 중이며, 양사의 공동 제품을 통해 항공·국방 분야 등 고위험 AI 신뢰성 인증 시장에 진출한다는 계획이다.
ISO/IEC 24029는 AI 신경망의 견고성을 평가하는 국제 표준이다. AI 모델이 다양한 조건과 적대적 환경에서도 안정적으로 동작하는지를 측정한다.
단순히 얼마나 정확한가를 보는 성능 평가와 달리, 어떤 상황에서도 오작동하지 않는가를 검증하는 견고성 평가는 항공·우주·국방·자율주행처럼 고위험 분야AI 도입의 필수 절차로 부상하고 있다.
씽크포비엘이 손잡은 프랑스 누말리스는 ISO 24029 표준 제정에 중추적인 역할을 담당했으며, 국방·항공 분야 AI 모델 평가 시장에서 독보적 입지를 확보한 기업이다. 표준을 기반으로 AI 모델의 견고성을 평가하는 도구를 만들어 시장의 80% 이상을 장악하고 있다.
양사의 협력은 서로의 기술 공백을 보완하는 방향으로 이뤄지고 있다. 누말리스는 AI 모델 테스트 역량은 뛰어나지만 견고성 평가를 위한 데이터 설계 능력이 부족했다. 반대로 씽크포비엘은 데이터 충실도와 맥락적 편향을 진단하는 설계 기술에 강점이 있지만 자동화 테스트 역량이 부족한 상황이었다.
박지환 씽크포비엘 대표는 “데이터를 증강할 때 단순히 무지성으로 늘리기만 해서는 AI 성능이나 신뢰성이 실제로 좋아진다고 보기 어렵다”면서 “어떤 데이터를 추가해야 AI의 판단 성능과 안전성이 실제로 개선되는지를 먼저 설계하고, 그 설계에 따라 필요한 데이터를 증강하는 것이 핵심 경쟁력”이라고 강조했다.
씽크포비엘은 지난해부터 진행된 누말리스와의 협력을 바탕으로 내년 중 공동 제품 출시를 목표로 하고 있다. 국방과 항공·우주를 시작으로 모든 산업 분야로 확장이 가능할 것으로 전망된다. 씽크포비엘은 국방 분야 AI 무기체계 검증을 통해 이미 관련 분야 경험도 축적해 왔다.
박 대표는 “견고성은 어떤 상황에서도 AI가 동작해야 한다는 의미”라며 “극한 상황에서 작동해야하는 국방과 항공·우주는 견고성에 대한 요구가 높은 분야인 만큼 향후 기반 기술이 모든 고위험 분야의 기본 요건이 될 수 있을 것”이라고 설명했다.
정현정 기자 iam@etnews.com
