한국전자통신연구원(ETRI) 연구진이 인공지능(AI) 시스템의 안전성과 신뢰성을 검증하는 핵심 국제표준을 제정해 국제인증을 받았어요.
우리나라가 주도적으로 제정한 최초의 AI 테스팅 핵심 국제표준이라는 점에서 상당히 의미가 크죠.
ETRI는 AI 시스템 테스트 절차와 방법론을 정의한 'AI 시스템 테스팅 개요' 표준이 국제표준화기구(ISO/IEC JTC1)에서 지난 3일 공식 제정됐다고 밝혔어요.
이는 AI 기본법 및 EU AI ACT 등에서 고영향·고위험 AI 시스템에서 필수사항으로 요구되는 검인증 및 적합성 시험방법 기준을 만든 것입니다. 이 표준은 기존 소프트웨어(SW) 테스트 표준을 AI 시스템에 맞게 확장한 것으로, AI 특성에 맞춘 데이터 품질 테스트, 모델 테스트 등 새로운 테스트 단계를 정의한 결과예요.
ETRI는 AI 시스템 핵심요소인 데이터 품질부터 모델 성능까지 종합적으로 검증할 수 있는 기틀을 마련했어요. 또 AI의 잠재적 위험을 사전에 점검하기 위해 '위험 기반 테스트' 개념도 도입했죠.
이를 바탕으로 △AI 편향성 검증을 위한 편향성 테스트 △입력값 변화를 이용한 적대적 테스트 △운영 중 성능 저하를 확인하는 드리프트 테스트 등 AI 특화 테스트 절차를 구체화했어요.
표준은 앞으로 제정될 AI 레드팀 테스팅, 생성형 AI 테스팅 등 후속 표준의 기반이 되는 '총론' 표준으로, AI 신뢰성 검증 체계 근간을 우리나라가 설계했다는 데 의미가 있어요.
이번 국제표준은 전종홍 ETRI 지능정보표준연구실 책임연구원이 최초 제안했고, SW 테스트 분야 세계적 권위자이자 STA테스팅컨설팅 기술이사인 스튜어트 리드 박사와 함께 공동 에디터로 활동해 완성했습니다.
두 기관은 ISO/IEC JTC 1 산하 AI 표준화 위원회(SC 42)와 SW 테스팅 위원회(SC 7) 간 합동작업반(JWG 2)을 구성해 5년간 공동으로 개발을 추진했어요.
이번 성과는 정부가 추진하는 소버린 AI 및 AI G3 도약 전략 핵심 목표인 '안전하고 신뢰할 수 있는 AI 구현'을 뒷받침하는 기술적 근거가 돼요. AI 시스템 성능과 위험을 객관적으로 검증하는 절차를 국제표준화함으로써, 향후 글로벌 시장에서 우리나라가 AI 안전·신뢰성 분야의 규범을 선도할 기반을 마련한 거죠.
ETRI는 이를 기반으로 레드팀 테스팅 표준(ISO/IEC 42119-7)을 비롯해 온톨로지 표준(ISO/IEC 42119-10), AI 벤치마크(ISO/IEC 42119-11) 등 후속 시리즈를 개발할 계획이예요.
전종홍 ETRI 책임연구원은 “AI 공통 핵심 표준을 만드는 JTC 1/SC 42 표준화 활동이 강화돼야 한다”며 “AI 국가 표준화 전략을 만들고 AI 국제표준화에 보다 적극적이고 장기적인 투자를 해야 할 시점”이라고 말했어요.
방승찬 ETRI 원장은 “AI 안전성과 신뢰성을 확보하는 것은 AI 시대 핵심 과제”라며 “이번 국제표준 제정은 대한민국이 AI 기술뿐 아니라 AI 테스팅과 평가 규범을 선도하는 분기점이 될 것”이라고 강조했습니다.
최정훈 기자 jhchoi@etnews.com
