'챗GPT' 등 인공지능(AI) 기술이 급속히 발전·확산하면서 이에 따른 위험에 대응하기 위한 안전성 강화 노력이 보다 구체화되고 있다.
한국정보통신기술협회(TTA)는 국내 AI 기술의 글로벌 신뢰도 제고와 함께 산업 현장 수요에 부합하는 실효적 인증 제도 운영을 위해 'AI 신뢰성 검·인증제도(CAT)'를 국제표준 기반으로 고도화했다.
'CAT 2.0'은 2023년 국내 최초로 제정된 'AI 시스템 신뢰성 제고를 위한 요구사항' 단체표준을 기반으로 설계됐다. 2024년 정식 운영 이후 현재까지 마크애니, 엔플럭스, 제네시스랩, 단감소프트, 포티투마루, 씨피엑스시스템즈, 퍼블릭에이아이 7건의 인증부여와 39건의 검증 서비스를 제공하고 있다.
이번 CAT 고도화는 국내 AI 산업 실정을 반영해 기업 규모와 기술 위험도에 따라 심사·시험 기준을 차등 적용, 기업의 과도한 부담을 완화하고 실효적 신뢰성 확보를 지원했다. 또 글로벌 호환성 확보를 위해 ISO/IEC 23894(AI 위험관리), 42001(AI 경영시스템), 38507(AI 거버넌스) 등 국제표준을 기반으로 시험 기준을 분류하고 고도화해 글로벌 호환성을 확보했다.
이에 세부적으로는 인증 대상을 △AI 시스템 △AI 사업자 △AI 이용자로 세분화하고, 각 대상에 따라 △AI 시스템 위험관리 체계 △AI 경영시스템 △AI 거버넌스 요소에 대해 표준 적합성을 평가한다.
또 기존 문서·절차 심사 위주 평가에서 나아가 AI 시스템이 내포한 위험요소 평가를 위한 실 운영 환경에서의 시스템 대응 능력을 평가하는 기능·성능 시험이 강화됐다.
생성형 AI 도입 이후 기술은 빠르게 발전하고 있지만, AI로 인한 편향·오작동·개인정보 유출 등의 위험 대응은 여전히 부족하다는 진단이다. CAT는 AI 기술이 위험 요소를 고려한 책임있는 개발 과정을 거쳤다는 AI 신뢰 기반 인증 제도로, 국제 표준 반영으로 윤리적 책임은 물론이고 글로벌 규제 대응이란 측면에서도 산업계의 인프라 역할을 할 전망이다.
TTA는 최근 AI 기본법 하위법령 정비 태스크포스(TF)에 참여해 실효성 있는 제도 설계를 지원하고 있으며, AI안전연구소, 국가인공지능위원회 등과도 협력 체계를 지속 확대하고 있다.
손승현 TTA 회장은 “CAT 제도는 AI 기술 발전과 시장 변화에 선제 대응하며, 민간의 자율적 신뢰성 확보를 지원해 온 제도”라며 “TTA의 전문성을 바탕으로 CAT을 국내 대표 AI 인증 브랜드로 키워나가겠다”고 밝혔다.
김명희 기자 noprint@etnews.com
