최근 포털의 기사배열 알고리즘 공개 논의가 뜨겁다. 국회에서는 지난 5월 6일 신문법 개정안이 발의됐는데 핵심 골자는 포털에 기사배열 알고리즘의 공개 의무를 부과하고 국회 각 교섭단체 등이 추천하는 이용자위원회에서 기사배열 알고리즘을 검증하겠다는 것이다.
개정안을 낸 이유는 특정 성향의 언론 기사가 과도하게 노출되는 등 알고리즘의 편향성 문제가 발생하고 있어 이를 해결하겠다는 것이다.
한편 이 개정안이 발의되기 2주 전인 4월 21일 유럽연합(EU) 집행위원회는 최초의 법적 강제력이 있는 인공지능(AI)규칙안을 발표했고, 이 규칙안은 2~3년 안에 EU 의회와 회원국의 승인을 거쳐 발효할 예정이다. EU AI규칙안은 위험 기반 접근 방식을 취하고 있다. 즉 AI 시스템을 위험도에 따라 4단계로 구분하고 단계에 따라 법적 의무 또는 규제가 달라지는 방식이다.
이에 따르면 AI 시스템은 금지 위험(unacceptable risk), 고위험(high risk), 제한적 위험(limited risk), 최소 위험(minimal risk) 등 4단계로 구분된다. 금지 위험 AI 시스템은 국민 안전, 생계 및 권리에 대한 명백한 위협이 되는 AI 시스템을 의미한다. 고위험 AI 시스템은 국민 권리, 생명 또는 건강과 관련해 위험성이 높은 AI 시스템을 뜻한다. 제한적 위험 AI 시스템은 명의 도용 또는 사기 위험을 초래할 수 있는 AI 시스템을 말한다. 최소 위험 AI 시스템은 국민 권리나 안전에 대한 위험도가 낮은 대다수 AI 시스템이다.
금지 위험 AI 시스템에는 잠재의식 기술을 이용해 인지하지 못하는 사이에 행동이나 의사결정을 조작하는 시스템, 아동·장애인 등 취약성을 띠는 것을 표적으로 삼는 시스템, 공공기관이 개인 특성을 이용해 신뢰도를 평가하거나 분류하는 시스템, 경찰 등이 공개된 장소에서 실시간으로 생체정보를 활용해 신원확인을 하는 시스템 등이 속한다. 그리고 이러한 AI 시스템은 금지된다.
고위험 AI 시스템에는 의료기기·철도·항공·기계·장난감 등 제품 안전 요소인 시스템, 생체 인식을 통한 신원 확인을 비롯해 교통 또는 전기 등 인프라 관리나 교육·직업훈련·고용·공공지원·재판·수사·국경통제 등 기본권에 영향을 미칠 수 있는 환경에서 활용되는 독자 시스템 등이 속한다. 고위험 AI 시스템은 엄격한 규제 아래 허용된다. 규제 내용으로는 위험관리 시스템 구축, 데이터 고품질성 유지·관리, 기술문서 작성, 로그 기록 보관, 투명성 보장, 인간의 관리·감독, 사이버보안, 적합성 평가, 등록, 모니터링 시스템 구현 등이 있다.
제한적 위험 AI 시스템은 챗봇과 같은 시스템을 의미한다. 이 경우 사용자가 기계와 상호작용하고 있음을 인식할 수 있게 하고, 시스템에 감정 인식 또는 생체 인식 분류가 포함된 경우 이러한 시스템에 노출돼 있음을 인식하게 해야 한다.
마지막으로 최소 위험 AI 시스템에는 비디오 게임 또는 스팸 필터 등과 같은 애플리케이션(앱)이 포함되며, 여기에는 특별한 규제가 존재하지 않는다.
EU AI규칙안의 핵심은 고위험 AI 시스템에 대한 규제이다. 사업자가 데이터 관련 금지조항 위반 시에는 3000만유로 또는 전년도 총매출액의 6% 가운데 높은 금액, 그 외 조항 위반 시에는 2000만유로 또는 전년도 총매출액의 4% 가운데 높은 금액이 각각 부과된다.
한편 포털의 기사배열 알고리즘은 이들 4개 분류에서 어디에 속하는 것일까. 기사배열 알고리즘을 공개하고 검증하도록 하는 신문법 개정안의 규제 내용으로 미뤄 볼 때 신문법 개정안은 포털의 기사배열 알고리즘을 고위험 AI 시스템으로 보는 듯하다. 그러나 이러한 결론에 동의하는 언론사나 포털은 없을 것이다.
이렇게 신문법 개정안과 EU AI규칙안이 서로 모순된 결론을 내는 이유에 대해 신중한 고민을 해야 할 것이다. AI 또는 알고리즘 규제는 불가피한 면이 있지만 일정한 기준이 없는 규제는 수범자 혼란과 혁신 저하만을 가져올 것이다. AI 또는 알고리즘 규제 기본 틀을 먼저 세우는 노력이 필요한 때다.
법무법인 민후 대표변호사 oalmephaga@minwho.kr
