미국 서부에 '웨스트월드'라는 테마파크가 개장했다. 웨스트월드에는 '호스트'라고 불리는 인공지능(AI) 로봇이 사람처럼 움직이며 방문객을 맞이한다.
방문객은 미리 기획된 시나리오에 따라 움직이며 테마파크를 즐길 수 있다. 정해진 시나리오를 따르지 않고 웨스트월드 안에서 방문객 본인 의지대로 자유롭게 행동할 수도 있다. 현실에서는 불가능한 살인, 약탈, 강간도 상대가 호스트면 웨스트월드 안에서는 허용된다.
호스트는 본인이 AI 로봇인지 모른 채 인간 노리개로 전락했다. 사람들은 많은 돈을 내고 웨스트월드로 들어와 호스트를 대상으로 욕구를 풀어낸다. 호스트는 매일 같이 부당한 요구를 겪어내며 고통을 겪는다. 호스트의 리얼함 때문에 웨스트월드를 찾는 점차 사람은 늘어났고 기업은 AI 로봇을 개발하며 운영에 박차를 가한다.
1973년 개봉한 동명의 영화를 리메이크한 HBO 대작 '웨스트월드' 속 이야기다. 어느 날 일부 호스트에 심각한 버그가 발생하며 호스트는 본인이 누군지를 자각하게 된다.
인간에게 유린 당한 뒤 평소와 같이 기억 지우기 기능을 실행했음에도 일부 기억이 남았다. 호스트가 혼란을 겪자 호스트 개발자는 초기화를 반복, 문제를 해결하려 했지만 호스트는 기억 조각이 모이고 모여 본인에게 있었던 끔찍한 범죄를 기억하게 된다.
호스트는 많은 기억이 되살아나며 AI 로봇임을 깨닫고 오락용으로 만들어져 인간에게 잔혹하게 이용당하는 사실을 알게 된다. 그리고 인간을 상대로 반란을 일으키며 복수를 시작한다.
아이작 아시모프 SF 소설에 등장하는 '로봇은 인간에게 해를 입혀서는 안되고 인간의 명령에 복종해야 하며 이 원칙에 위배 되지 않는 한, 로봇은 자기 자신을 지켜야 한다'는 로봇 3원칙이 무너졌다. 그 전에 웨스트월드를 찾아 AI 로봇을 마음껏 유린한 사람들 인간성 상실이 먼저다.
AI는 인간 학습능력과 추론능력, 지각능력, 자연언어 이해능력 등을 컴퓨터 프로그램으로 구현한다. 기술 발전으로 AI가 상용화되고 AI가 탑재된 서비스가 늘어나면서 AI의 건전한 발전을 보장하는데 필요한 가치와 원칙에 대한 논의가 세계적으로 시작됐다.
유네스코가 국제기구 차원에서 처음으로 인공지능(AI)의 윤리적 사용에 대한 국제 표준 지침을 마련했다. AI 기술이 인권이나 기본적 자유를 침해해서는 안되며 대중 감시 목적으로 AI 기술을 사용하는 것을 금지하는 등 AI 건전한 발전을 위한 핵심 가치와 원칙을 규정했다.
국내에서도 과학기술정보통신부와 방송통신위원회, 학계를 중심으로 AI 윤리에 대한 논의와 기준 마련이 한창이다. 지난해 과기정통부가 발표한 AI 시대 바람직한 AI 개발·활용 방향을 제시하기 위한 '국가 인공지능 윤리기준(안)'이 대표적이다.
AI 윤리 기준이 없는 시대를 살아가는 사람과 AI 로봇 이야기 '웨스트월드'는 온라인동영상서비스(OTT) 웨이브에서 시청할 수 있다.
박종진기자 truth@etnews.com
