1. 맞춤형 추천의 역설
유튜브의 추천 알고리즘은 사용자 데이터를 분석해 개인 취향에 맞는 콘텐츠를 지속적으로 제공하며, 시청 시간을 늘리는 데 기여하고 있다. 하지만 이러한 알고리즘은 필연적으로 에코 챔버(Echo Chamber)와 필터 버블(Filter Bubble)을 형성하는 문제가 있다. 한마디로 가두리 양식장을 만드는 효과가 있는 것이다.
특히 극단적인 콘텐츠나 음모론을 시청할 경우, 유튜브는 더욱 극단적인 영상들을 추천하며 사용자를 극단화된 세계관에 가두게 되는 일이 발생하고 있다.
2. 극우 유튜브와 음모론 확산
문제의 심각성: 미국의 경우 2016년과 2020년 대선에서 페이크 뉴스와 극우 음모론이 유튜브를 통해 확산되면서 유권자의 판단에 큰 영향을 미쳤다. QAnon 같은 음모론은 유튜브에서 급속히 퍼져나갔고, 일부 시민들은 잘못된 정보에 기반한 정치적 행동을 보였다.
한국 사례: 한국에서도 유튜브 추천 알고리즘으로 인해 극우 성향의 채널이 성장하면서 잘못된 정보가 퍼지고 있다. 특히 윤석열 대통령이 극우 유튜브 채널에서 제공하는 내용을 신뢰하고, 국정원의 정보 보고를 불신했다는 뉴스가 있을 정도로 이번 계엄 정국에 극우 유튜브가 큰 영향을 미쳤다.
3. 국내외 대응 사례
미국의 사례
시민단체 및 언론 기관
First Draft News와 Media Matters 같은 단체들이 페이크 뉴스와 극단적 콘텐츠를 모니터링하고 팩트 체크를 제공하고 있다. 유튜브는 가짜뉴스로 판명된 콘텐츠의 수익화를 제한하고, 음모론 관련 채널에 경고를 부여하며 알고리즘을 수정하겠다고 발표했다. 그러나 완벽하지 않은 대응으로 여전히 비판 받고 있다.
정책적 대응
바이든 행정부는 SNS 플랫폼이 페이크 뉴스 및 혐오 콘텐츠 확산을 방지하도록 플랫폼 책임 강화를 위한 규제를 고려하고 있다.
유럽연합 (EU)의 사례
디지털 서비스 법 (DSA)-유튜브와 같은 플랫폼에 대해 불법 콘텐츠 및 허위정보를 신속히 삭제하고, 알고리즘 추천 시스템의 투명성을 강화하도록 요구하고 있다.
독일-네트워크 집행법 (NetzDG)을 통해 혐오 콘텐츠나 가짜뉴스를 24시간 내에 삭제하지 않을 경우 플랫폼에 벌금을 부과하고 있다.
한국의 사례
시민단체의 모니터링-민언련(민주언론시민연합)은 유튜브 내 가짜뉴스와 혐오 콘텐츠를 분석해 정기적으로 보고서를 발표하고 있다.
방송통신위원회-가짜뉴스를 유포하는 채널에 대해 제재 조치를 취하고 있지만, 플랫폼 사업자의 협조가 부족해 한계가 있는 상황이다.
4. 정책당국자들의 주의사항
정보 출처 다변화
정책 결정자들은 유튜브나 SNS의 추천 알고리즘이 아닌 공신력 있는 미디어와 공식 정보 채널을 우선적으로 참고해야 한다.
팩트체크 시스템 강화
중요한 정책을 결정할 때 신뢰할 수 있는 한국 내 정보기관의 팩트체크 시스템을 통해 정보를 검증하는 과정이 필수적이다.
알고리즘 이해 및 교육
정책 입안자들과 공무원들이 알고리즘이 가진 편향성과 위험성을 이해하고 이를 경계하는 교육을 강화할 필요가 있다. 특히 러시아가 페이스북 페이크 계정을 통해 미국 대선에 영향을 미치려고 했던 사례처럼, 적성국의 미디어 전략에 의해 정책 당국자가 편향에 사로잡히거나 오판을 할 수 있다.
5. 제언: 한국의 대응 방안
유튜브 알고리즘 투명성 요구
정부와 시민단체가 유튜브에 알고리즘 운영과 추천 원리에 대한 투명성 보고서를 요구해야 한다. 증오를 부추기고 사회적 혼란을 야기하는 유튜브 추천 알고리즘에 대해서 강력히 규제하고 징벌적 벌금을 유튜브에 부과해야 한다. 유튜브가 사용자들을 유튜브에서 벗어나지 못하게 가두리 양식장으로 만드는 알고리즘에 편승한 극우 유튜버, 음모론자들의 채널은 유튜브 추천에서 배제할 방법을 정책화해야 한다. 독일의 네트워크 집행법을 참고하여 유튜브 게시자에 대해서 가짜 뉴스 삭제를 강제해야 한다.
수익화 차단 및 규제 강화
극단적이고 허위 정보를 퍼뜨리는 채널에 대해 수익화 중단과 더불어 강력한 제재가 필요하다. 이 부분에 대해서 즉각적으로 수익 차단을 할 수 있는 유튜브와 언론 기관 사이의 커뮤니케이션 및 상설 기구가 필요하다.
독립된 감시기구 설립
시민단체, 언론, 정부가 함께 참여하는 디지털 콘텐츠 감시기구를 설립해 지속적인 모니터링과 보고가 이루어져야 한다.
미디어 문해력 교육
일반 시민과 공무원 대상의 미디어 문해력 교육을 통해 허위 정보에 대한 경각심을 높이고 비판적 사고를 키워야 한다. 뉴스처럼 보이지만 sns와 유튜브에 있는 정보를 비판적으로 수용할 수 있어야 한다.
우리는 헌정사상 국회를 무력으로 점거하는 계엄 시국을 겪었다. 이 사태의 발단이 극우 유튜버라는 이야기가 나올 정도로 일부 유튜브 채널이 극단적인 증오와 음모론으로 한국 사회 분열을 만들었다. 유튜브의 알고리즘 문제는 단순한 기술적 이슈를 넘어 사회적, 정치적 안정에 심대한 영향을 미치고 있다. 이에 대한 다각적이고 체계적인 정책 수립과 교육이 필요한 시점이다.
필자 소개: 김호광 대표는 블록체인 시장에 2017년부터 참여했다. 나이키 'Run the city'의 보안을 담당했으며, 현재 여러 모바일게임과 게임 포털에서 보안과 레거시 시스템에 대한 클라우드 전환에 대한 기술을 지원하고 있다. 최근 관심사는 사회적 해킹과 머신러닝, 클라우드 등이다.
