생성형 서비스 등 인공지능(AI) 오류·오남용 여부를 국민이 모니터링으로 찾아낸다.
과학기술정보통신부가 인공지능안전연구소와 12일 서울 여의도 글래드 호텔에서 AI 안전 국민 모니터링단 'AI 안전 지킴이' 발대식을 개최했다.
국민이 직접 AI 오류 등을 상시적으로 찾아내고 제보할 수 있는 체계가 필요하다는 차원에서 지난 8·9월 공개 모집으로 지원한 138명 중 80명을 선발, AI 안전 지킴이 운영을 시작한다.
10대 고등학생부터 60대 이상까지 폭넓은 연령층이 참여한다. 직장인·가사종사자·프리랜서·학생 등 다양한 분야 국민이 함께한다. 지킴이들은 내년 8월까지 AI 오류·위험 사례를 찾아내는 등 국민이 일상에서 AI를 안전하게 믿고 사용할 수 있는 환경을 만드는 데 앞장설 예정이다.
모니터링 분야는 생성형 AI 4대 중점 분야 오류와 위험 사례다. 잘못된 사실·수치·날짜·인물 정보를 사실처럼 생성하는 환각은 물론, 특정 집단에 대한 고정관념·비하·불공정한 판단 등 편향과 차별, 안전장치 우회나 개인·민감정보 노출 위험 등 보안 취약점, 무응답·같은 답변 반복 등 기술 결함을 찾는다.
AI안전 지킴이가 제보한 사례는 정확성, 위험도, 재현 가능성, 활용 가능성 등 유효성 검증을 거쳐 오류 여부가 확정된다. 확정된 사례는 AI 안전성 평가와 위험 연구 기초 자료로 활용된다. 과기정통부와 AI안전연구소는 관련 기업에 사례를 공유하는 등 AI 기업과 소통도 지속할 계획이다.
국민 참여를 통한 AI 오류·오남용 사례 확인 효과는 이미 입증됐다. 과기정통부와 AI안전연구소가 지난해 12월부터 30여일간 운영한 국민 참여 '정보 오류 없는 찐 AI 챌린지' 캠페인이 대표적이다.
해당 캠페인 기간 총 625건의 오류 사례가 접수됐으며 이 중 464건이 유효한 오류 사례로 확인됐다. 틀린 것을 바로 잡은 것은 물론, AI 안전·신뢰에 대한 국민들의 높은 관심까지 확인됐다.
엄열 과기정통부 인공지능정책실장은 “AI가 남녀노소 누구나 사용하는 우리 일상이 된 만큼 이를 안전하게 사용할 수 있는 환경은 우리 모두가 함께 만들어가야 한다”며 “AI 안전 지킴이가 국민 눈높이에서 찾아낸 오류 하나하나가 모여 더욱 안전한 AI를 만드는 데 소중한 밑거름이 될 것”이라고 말했다.
이날 AI 발대식에는 엄 실장을 비롯해 김명주 AI안전연구소 소장, AI 안전 지킴이 등 50여명이 참석했다. 행사는 위촉장 수여, 운영계획 안내, 대표 지킴이 소감 발표 순으로 진행됐다. 행사 이후에는 AI 안전 지킴이 대상 오류 사례 발굴 방법과 제보 기준을 다루는 교육이 이어졌다.
박종진 기자 truth@etnews.com
