최근 브라질 대법원은 일론 머스크의 소셜미디어 플랫폼 'X'에 대한 접근을 금지하는 결정을 내렸다. 이 결정은 브라질 2억명 국민이 사용하는 해당 플랫폼의 운영 중단을 의미하며, 머스크와 브라질 대법원 판사 알렉상드르 드 모라이스 간의 갈등에서 비롯됐다. 모라이스 판사는 X가 전 브라질 대통령 자이르 보우소나루를 지지하는 계정을 지속적인 요청에도 차단하지 않았다고 지적했다. 해당 계정들은 가짜 뉴스와 혐오 발언을 퍼뜨린 혐의를 받고 있었다. 비슷한 시기, 프랑스에서는 텔레그램이 범죄 행위에 사용된 혐의로 법적 명령을 준수하지 않았다며, 텔레그램의 대표 파벨 두로프를 체포했다. 텔레그램은 독일, 스페인, 브라질 등 여러 국가에서 비슷한 이유로 규제 당국과 마찰을 빚어왔으며, 이는 플랫폼 기업들이 각국의 법적 규제에 대응하는 방식을 둘러싼 새로운 논쟁을 불러일으켰다.
이 두 사건은 각국 정부가 사회관계망서비스(SNS) 플랫폼의 운영 방식에 더욱 적극적으로 개입하고 있음을 보여준다. 최근 인공지능(AI) 기술의 발전과 소셜미디어 플랫폼의 사용자 데이터 수집 증가로 인해, AI 기반의 콘텐츠 자동 생성과 잘못된 정보 및 혐오 발언의 확산이 사회적 문제로 대두되고 있다. 예를 들어, 국내에서도 무분별한 여성을 대상으로 한 딥페이크 영상 및 이미지 제작이 새로운 유형의 현실 범죄이자 온라인 생태계의 위협으로 주목받고 있다.
이러한 맥락에서, 브라질 대법원의 X 차단 결정에 대해 일론 머스크가 '민주주의의 근본인 표현의 자유가 정부의 규제로 침해받고 있다'라고 주장한 점은 다른 시각에서 재해석될 필요가 있다. AI 기술 발전으로 인해 표현의 자유 개념이 이전보다 훨씬 복잡해졌기 때문이다.
먼저, 규모와 속도의 문제가 있다. AI는 인간보다 훨씬 빠른 속도로 대량의 콘텐츠를 생성하고 확산시킬 수 있다. 이는 모든 AI 생성 콘텐츠를 과연 표현의 자유로 볼 수 있는지, 그리고 이를 어떻게 효과적으로 규제해야 하는지에 대한 새로운 질문을 제기한다.
둘째, 진실성과 관련한 책임의 문제가 있다. AI는 진실과 허구를 구분하지 않고 콘텐츠를 생성할 수 있으며, 이는 가짜 뉴스나 허위 정보의 대량 확산을 촉진할 수 있다. 이러한 AI 생성 콘텐츠가 사회적 맥락에서 적합한지, 또는 다른 이에게 피해를 주지 않는지에 대한 책임은 여전히 인간의 몫이다.
셋째, 개인 정보와 프라이버시 문제가 심각해졌다. AI는 사용자 데이터를 활용하여 매우 개인화된 콘텐츠를 생성할 수 있지만, 이는 동시에 누군가의 개인 프라이버시를 심각하게 침해할 위험도 높아진다는 것을 의미한다. 표현의 자유를 보호하는 동시에 개인정보 보호를 어떻게 균형 있게 관리할 것인지에 대한 질문이 그 어느 때보다 중요해졌다.
넷째, 알고리즘 편향성 문제가 있다. AI 알고리즘은 데이터의 편향성을 반영할 수 있으며, 특정 의견이나 관점을 강화할 수 있다. 이는 전통적인 표현의 자유의 본질을 왜곡하고, 일부 의견을 과대 표현하거나 억제하여 사람들이 이를 무비판적으로 받아들일 수 있는 가능성을 높인다.
미국의 기술 전문 매체 와이어드(Wired)는 최근 AI를 이용해 누드 이미지를 생성하는 웹사이트들이 구글, 애플, 디스코드와 같은 대기업의 원 사인 로그인 시스템을 사용하고 있음을 보도했다. 이러한 로그인 방식은 사용자들이 딥페이크 웹사이트에 쉽게 접근할 수 있게 하고, 사이트의 신뢰성을 높이는 데 기여한다. 이러한 문제를 다루기 위해 플랫폼 기업들이 더 이상 규제와 책임에서 벗어날 수 없는 시대가 되었음을 인식해야 한다. 나아가 기업은 의도하지 않았다 하더라도 이제 자사의 공식화된 운영 방식에 대해 다양한 사회적 영향력 확인을 위한 내부의 독립적 역할에도 관심을 가져야 한다.
AI 시대의 도래와 함께 '표현의 자유'의 개념은 근본적으로 변화하고 있다. 기술적, 윤리적, 법률적, 사회적 측면을 모두 고려해야 하는 이 문제는 플랫폼 기업과 정부 간의 긴장 관계를 더욱 복잡하게 만들고 있다. 기술 혁신을 저해하지 않으면서도 사회적 책임을 다할 수 있는 균형점을 찾기 위해 어떤 접근이 필요할지 다음 글에서 다루어보겠다.
손병채 ROC(Reason of creativity) 대표 ryan@reasonofcreativity.com
