인공지능(AI)이 전 산업과 분야에 활용되면서 다양한 형태로 그 기술과 서비스가 혁신을 주도하고 있다. 최근 생성형 AI에 이어 에이전트라 불리우는 신기술에 이르기까지, AI가 전 산업 분야의 혁신을 주도할 것이란 전망은 한동안 지속될 것이다.
한편으로는 AI 혁신의 이면에 위험이라는 키워드가 늘 존재한다. 새로운 기술이 출현하고, 새로운 분야에 적용될 때마다, 위험에 대처하기 위해 AI 신뢰성은 필수 불가결한 요소인 것이다. AI가 산업과 생활에 확산되면서 환각, 불투명성, 편향 등의 위험요소를 노출하고 있다. AI 신뢰성을 확보하는 것이 AI 기술 경쟁력이라는 인식이 확산하고 있다.
과학기술정보통신부는 한국정보통신기술협회(TTA)와 함께 2021년부터 AI 신뢰성을 확보하기 위한 기반을 마련해왔다. 우리나라 기업들이 AI 신뢰성을 확보할 수 있도록 가이드라인을 마련하고, 현장 밀착형 컨설팅과 검인증을 수행하고 있다.
이에 AI 신뢰성을 확보하고자 노력한 우리나라 AI 제품·서비스를 선정·시상함으로써 AI 신뢰성에 대한 인식을 더욱 확산하기 위해 지난해 첫 개최에 이어, 올해 제 2회를 개최하게 됐다.
전 분야를 대상으로 6주간 접수를 받아 △신뢰성·품질 이해 및 가이드라인 준수성 △신뢰성·품질 우수성 △신뢰성·품질 관리 우수성 △시장성 등을 기준으로 2차에 걸쳐 엄정하고 객관적 심사를 진행했다.
특히 국제적으로 논의되는 신뢰성 개념을 제대로 이해하고 있으며, 기업 차원에서 얼마나 적극적 노력을 기울이고 있는지를 중점적으로 판단했다.
이번 심사와 시상을 통해 우리나라 기업의 AI 신뢰성 확보를 위한 노력을 체감할 수 있는 계기가 됐다. 앞으로 AI 신뢰성의 중요성이 더욱 확산되고, AI 신뢰성 대상 제도가 우리나라 AI 제품·서비스, 나아가 AI 산업계의 신뢰성 확보와 글로벌 경쟁력을 높이는 데 중추적 역할을 하는 제도로 발전하길 기원한다.
오혜연 심사위원장(KAIST 전산학부 교수)
김명희 기자 noprint@etnews.com
