올해 초 등장한 중국 인공지능(AI) 딥시크로 인해 최근 글로벌 AI 시장에는 그 성장 속도에 비례하게 신뢰성 확보를 위한 법령과, 제도, 표준 및 인증에 대한 요구도 커지고 있다. 대한민국 AI 관련 인증 제도를 운영 중인 한국표준협회를 통해 K-AI의 글로벌 신뢰성 확보 방안을 들어보았다.
-AI 표준 및 인증 관련 한국표준협회(KSA)의 활동을 소개해 달라
▲KSA는 AI 표준과 인증 제도를 통해 국내 AI 산업 신뢰성과 글로벌 경쟁력을 높이는 데 핵심적인 역할을 하고 있다. 2020년 국내 최초로 개발한 AI⁺(플러스) 인증 제도를 성공적으로 운영하고 있으며, 국제표준인 ISO/IEC 42001(인공지능 경영시스템 요구사항) 인증 또한 국내 최초로 도입했다. AI⁺ 인증은 AI 기반 제품 및 서비스의 품질을 평가하는 인증 제도다. ISO/IEC 42001 인증은 AI 시스템의 전 생애주기(개발·제공·사용)에 걸친 리스크 관리를 위한 경영시스템 요구사항을 충족하였는지 확인하는 국제 인증이다. 삼성전자, LG전자, SK텔레콤, 카카오뱅크 등이 인증을 받았으며, 앞으로 중앙행정기관과 공공기관에도 엄격한 심사를 거쳐 인증을 확대해 나갈 예정이다.
-AI⁺ 인증의 특징은 무엇인가
▲2020년 개발되어 이제 운영 5년 차지만, 삼성전자와 LG전자 등 글로벌 대기업부터 혁신적인 기술을 가진 스타트업까지, AI 소프트웨어 솔루션, AI 기반 가전제품 등 산업 전 분야에서 폭넓게 활용되고 있다. AI 초기단계 시장에서 인증 관련 다양하게 요구되는 것들이 개발되고 있다.
AI⁺ 인증의 가장 큰 차별점은 제품·서비스의 품질 및 성능 시험과 AI 개발·운영 프로세스 심사를 통합한 인증 체계를 갖추고 있다는 점이다. 국내 인증의 대부분은 AI 성능 시험이나 소프트웨어 품질 검증에 초점을 맞추고 있으며, 해외 인증들은 주로 개발 및 관리 프로세스 평가 중심으로 구성되어 있다. AI+ 인증은 이러한 기존 인증의 한계를 극복해, AI 성능·품질 시험과 개발·운영 프로세스 인증을 모두 적용하는 종합적인 심사 체계를 갖추고 있다. 설계 초기부터 제품 출시 후까지 철저한 품질 검증 프로세스를 거쳐 AI 기술의 신뢰성과 안전성을 보장하며, 이를 통해 소비자는 믿을 수 있는 제품과 서비스를 선택할 수 있다.
-딥시크 사태로 본 AI 인증의 나아갈 길은
▲딥시크 사례는 AI 기술의 윤리적 문제와 데이터 보안, 신뢰성 문제를 다시 한번 강조하는 계기였다. AI 표준 및 인증은 이제 단순한 성능 검증을 넘어, 신뢰성과 윤리성을 갖추었는지 검증하는 방향으로 강화되어야 한다.
먼저 AI가 특정 집단이나 국가의 이익에 악용되지 않도록 윤리적 기준과 사회적 책임성을 명확히 검증해야 한다. 수집 데이터의 무단 유출을 방지하기 위한 데이터 보안 및 개인정보 보호 기준도 필수적이다. AI가 생성하는 정보의 출처 및 정확성을 검증하고, 데이터 편향성을 최소화해야 한다. 나아가 특정 국가의 AI 기술이 글로벌 보안 및 공정성에 미치는 영향을 고려한 AI 거버넌스 및 인증 기준도 수립해야 한다.
이러한 흐름에 맞춰, 한국표준협회는 AI 제품과 서비스가 신뢰성, 윤리성, 보안성을 모두 충족하도록 인증 제도를 강화할 계획이다. 특히, AI⁺ 인증은 제품·서비스의 성능과 품질뿐만 아니라, AI 개발·운영 프로세스까지 검증하는 종합적인 인증 체계를 적용하여, AI 기술이 신뢰성과 사회적 수용성을 갖출 수 있도록 지원할 것이다.
-AI 인증 정립이 AI 발전에 얼마나 기여한다고 보는가
▲AI 표준과 인증은 글로벌 규제에 효과적으로 대응하고, 신뢰성을 확보하는 핵심 인프라 역할을 한다.
AI 산업이 빠르게 성장하면서, EU AI Act, 미국의 AI 규제 정책 등 각국의 규제 요구사항이 점차 강화되고 있다. AI⁺ 인증은 이러한 흐름을 반영하여 기업이 사전에 규제 요구사항을 충족할 수 있도록 지원한다. 인증 획득 기업은 글로벌 시장 진출 시 별도 추가 검증 부담을 줄이고, 수출 장벽을 낮출 수 있는 효과를 얻을 수 있다.
궁극적으로, AI+ 인증과 AI 표준을 통해 국내 AI 기업들은 신뢰성과 품질을 갖춘 AI 제품과 서비스를 개발할 수 있으며, 이는 AI 산업 전반의 지속 가능한 성장과 글로벌 경쟁력 확보에 중요한 역할을 하게 될 것이다.
-AI 인증과 표준 앞으로 어떻게 발전시켜나갈 건가
▲먼저 AI⁺ 인증의 평가 기준을 글로벌 규제 동향과 시장의 구체적인 요구를 반영해 세분화할 예정이다. 특히 AI 윤리, 데이터 보호, 알고리즘 공정성 등 국제 시장에서 요구되는 핵심 요소들을 평가 기준에 구체적으로 포함할 것이다.
인증이 때로는 귀찮고 비용이 투입되는 애물단지처럼 여겨질 수도 있다. 하지만 인증의 유무에 따라 시장의 성장 속도는 확연히 차이난다. 지금처럼 AI라는 단어가 남용되면서 마치 마케팅 용어처럼 사용되는 시기에는 이를 검증하는 인증의 역할이 더욱 중요하다.
KSA는 앞으로도 글로벌 규제 동향과 시장의 요구를 적극 반영하여 인증과 표준 활동을 발전시킬 것이다. 그때마다 우리 AI 기업들도 적극적으로 동참해 국내 AI 산업의 경쟁력 강화에 함께할 수 있기를 바란다.
조정형 기자 jenie@etnews.com
