세계적으로 인공지능(AI) 신뢰성 확보가 화두인 가운데 우리나라에서 'AI 신뢰성 인증'이 개발된다. AI 관련 각종 기술·서비스 신뢰성을 평가해 인증을 부여, 신뢰받는 AI 환경 조성에 기여하는 게 목표다.
한국정보통신기술협회(TTA)는 올해 4분기 AI 신뢰성 인증 제도 시행을 위해 평가 기준 마련 등 준비 작업에 착수했다.
TTA 관계자는 30일 “국내에서도 AI 기술 개발과 서비스 출시가 이어지면서 객관적 평가와 검증이 중요해졌다는 판단에 따라 인증제를 준비하게 됐다”고 배경을 설명했다.
과학기술정보통신부가 추진하는 연구개발(R&D) 사업 등을 살펴보면 AI 신뢰성은 기업·개발자 등이 AI 서비스를 어떻게 개발했는지 사용자에게 충분히 설명하는 '설명가능성', 윤리 등 문제에 어긋나는 것이 없는지를 보는 '공정성', 외부 공격 등으로부터 대응 가능한지에 관한 '안전성'을 아우른다.
TTA도 이 같은 AI 신뢰성을 평가 원칙 등을 기반으로 세부 평가 기준을 마련 중이다.
TTA는 4분기께 신청 기업을 대상으로 신뢰성을 평가, 시범 인증을 실시한다. 내년부터 AI 신뢰성 인증제도를 본격 시행하고 제도가 정착되면 국가 공인 인증까지 추진할 계획이다.
TTA 관계자는 “몇 년 전부터 AI 신뢰성 관련 각종 정부 과제와 사업을 진행하며 기술력을 쌓았다”며 “굿소프트웨어(GS) 인증 노하우를 바탕으로 믿을만한 AI 신뢰성 인증제를 마련하겠다”고 말했다.
이 관계자는 “정부도 AI 신뢰성 확보를 위한 각종 정책과 지원을 강화한다”며 “AI 신뢰성 인증제도를 통해 민간 AI 기술과 서비스가 더 확산되는 계기가 되길 바란다”고 말했다.
AI 신뢰성은 세계적 이슈다. 올 초 생성형 AI '챗 GPT' 등장과 함께 가짜뉴스, 환각현상(마치 사실인 것처럼 전하는 것) 등 문제가 발생하면서 AI 신뢰성 확보가 중요해졌다.
AI 선도국인 미국은 정부가 앞장서 AI 신뢰성과 안전성을 강조한다. 이에 발맞춰 구글, 마이크로소프트, 오픈AI 등 AI 빅테크는 최근 '프런티어 모델 포럼'을 결성, AI 개발 안전성과 책임성을 확보하는데 협력하고 있다.
김지선 기자 river@etnews.com
