매년 연초 스위스 다보스에서는 세계적인 인물들이 모여 전 지구적인 문제를 논의한다. 올해 다보스포럼에서는 분절된 세계에서의 협력 모색 등 공식 논의 주제가 상대적으로 뒷전으로 밀렸다. 대신 포럼을 달군 것은 두 가지였다. 하나는 덴마크령 그린란드를 넘겨달라는 트럼프 미국 대통령의 억지 주장이고, 다른 하나는 인간 지능과 구별이 어려운 범용인공지능(AGI) 또는 인간 지능을 능가하는 초지능(ASI)의 출현을 놓고 벌인 찬반 논쟁이었다.
앤트로픽의 다리오 아모데이는 1~2년 내, 구글 딥마인드의 데미스 허사비스가 5~10년 내 출현을 전망하면서 한때 불가능하다고 생각되던 AGI 또는 ASI의 도래는 기정사실화하는 분위기다.
인공지능(AI) 위험론의 선봉에 선 '호모 사피엔스'의 저자 유발 하라리는 “AI는 더 이상 도구가 아니라, 인간을 대체할 수 있는 새로운 에이전트(사실상 새로운 종의 탄생)”라고 주장하면서 이제 호모 사피엔스의 시대는 끝났다고 단언했다. 그는 칼은 인간이 샐러드를 썰지 사람을 해칠지 결정에 좌우되는 도구에 불과하지만, 우리가 만들어 낸 AI는 스스로 샐러드를 썰지 살인을 저지를지 결정할 수 있는 칼이라며 향후 AI가 지금까지 이뤄온 인류 문명을 위협할 것이라고 주장했다.
인류는 역사상 처음으로 우리만큼 똑똑한 타자(他者)인 AI를 만들어냈지만 AI가 가져올 미래 전망은 그다지 낙관적이지만은 않다. '특이점이 온다'의 저자인 레이 커즈와일은 AI가 질병, 빈곤, 교육 격차 같은 고질적 문제를 해결해 주고 인간의 능력과 결합되면서 인간이 '확장된 지능(Augmented Intelligence)'을 가질 수 있도록 해 주는 등 인간과 AI의 공진화라는 긍정적인 미래를 전망한다.
하지만 '슈퍼인텔리전트'의 저자인 닉 보스트롬 같은 비관론자들은 AI는 우리가 감당할 수 없는 속도로 발전하고 있으며 결국 우리의 실존마저 위협할 것이라고 경고한다. 이들은 이미 AI는 인류가 통제할 수 없는 방향으로 진화하고 있기 때문에 인류의 가치와 상충될 수도 있는 잘못된 최적화가 가능하다는 위험성이 있다고 주장한다. 마치 실험실에서 신(神)을 만들고 있는데 그 신이 우리 편이라는 보장은 없다는 극단적인 비유마저 들고 있다.
이미 AI가 인간 지능을 따라잡을 것이라는 내용이 기정사실인 것 같은 분위기지만, 기계가 인간과 같이 생각할 수 있는가, 즉 AGI를 지닐 수 있는가에 대한 논쟁은 오랜 역사를 가지고 있다. 1950년 영국의 수학자 앨런 튜링은 '기계는 생각할 수 있는가?'라는 질문을 제기했다. 그는 기계에 지능이 있는지를 간접적으로 판별할 수 있는 방법으로, 이른바 '이미테이션 게임'이라 불리는 튜링 테스트를 제안하기도 했다.
AI가 인간과 같은 사고 또는 지능을 갖고 있는가는 우리가 지능의 개념을 어떻게 보는가에 달라질 수 있다. 만일 지능을 일반적으로 학습, 추론, 문제 해결, 적응 등의 인지 능력을 포괄하는 개념으로, 언어·논리·수학·공간·음악·사회적 지능 등 다방면으로 발현되는 개념으로 본다면 문서 작성 등 일부에서 인간 이상의 뛰어난 수준을 보이고 있지만 여전히 전체적인 범용성에서는 인간에 미치지 못하는 AI를 지능 또는 사고 능력을 가지고 있다고 주장하기 어려울 것이다.
하지만 유발 하라리는 인간의 사고라는 것도 결국 '단어를 순서대로 배열하는 과정'에 불과하고 이는 AI가 우리보다 잘하기 때문에 향후 단어로 만들어진 모든 것, 즉 인류 문명은 AI에게 장악될 것이라고 주장한다. MIT 물리학 교수 맥스 테그마크는 한발 더 나아가 '동물원의 우리 안에 갇힌 것은 누구인가?'라는 도발적인 질문을 던진다. 그는 “침팬지가 인간을 통제할 수 없듯이, 우리도 우리보다 똑똑한 타자를 통제할 수 있다는 환상을 버려야 한다”고 주장한다. 이를 바탕으로 AI가 인간을 지배하는 암울한 미래를 전망한다. AI 위험성을 지적하는 많은 지식인들도 비슷한 문제의식을 공유한다. 이들은 현재 진행되는 사려 깊지 못하고 무분별한 AI 능력 배가 경쟁을 비판하면서 AI가 인류의 가치와 목표를 공유하도록 정렬하는 이른바 '인간을 위한 AI' 원칙이 필요하다고 주장한다.
하지만 철학자 피에르 르뮈는 AI 공포론은 과장이라고 일축하면서 미래는 '인간 vs AI'가 대립하는 세상이 아닌 'AI를 활용하는 인간 vs AI를 활용하지 못한 인간' 간의 격차가 존재하는 세상일 뿐이라고 주장한다. 그는 나아가 공포의 실체는 AI 그 자체에서 오지 않고 인간의 지적 역량 부족에서 오고 있다고 강조한다. 사실 AI 안전을 담보하기 위해 인간과 같이 생각하는 '정렬'을 코드에 넣기 위해서는 인간이 인간다움을 유지해야 가능하다. 이를 감안할 때 현실처럼 인간이 정체성을 잃고 AI와 닮아가고 있는 상황에서는 무의미한 원칙에 불과하다는 작가 이안 레슬리의 성찰은 뼈를 때린다.
레슬리는 현대 AI의 언어 생성 능력이 '놀랍도록 인간답게' 느껴지는 이유가 역설적으로 요즘 인간의 의사소통 방식이 지나치게 정형화되고 틀에 박혀 있기 때문이라고 말한다. 인간이 고객 응대 스크립트, 천편일률적인 이메일, 복제된 듯한 대중문화 콘텐츠 등 다양한 알고리즘에 생각을 맡기고 기계적으로 살아가다 보니 AI와 인간의 차별성이 점점 사라지고 있다고 주장한다. 따라서 AI가 인간을 닮아가고 인간을 넘어설 AI 공포가 문제가 아니라 오히려 인간이 AI를 닮아가는 것이 더 문제라는 인식이다. 그는 실제 사례로 최근 음악 트렌드에서 가장 창의적이고 인간적인 모습이 드러나는 브리지(Bridge:주로 2절 후렴과 마지막 후렴 사이에 위치해, 곡의 분위기를 전환하고 고조시켜 클라이맥스로 연결하는 구간)가 사라지고 있는 현상을 보여 주고 있다.
레슬리는 이처럼 점차 인간이 자신만의 특질을 버리고 AI화되는 것을 막기 위해 이전보다 더 명확하지 않고 복잡하며 예측 불가능한 사고방식을 적극적으로 받아들여야 한다고 주장한다. 얼마 전 방영된 KBS 시사기획 창에 출연한 한 디자이너는 자신의 창의적인 작품에 대해 AI에 의존한 고객사의 끝없는 수정 의견에 지친 나머지 잠시 직장을 떠나면서 'AI에게 직업을 빼앗기겠다는 불안보다 내 자신을 빼앗기겠다는 두려움이 먼저 들었다'라고 고백하고 있다. AI 공포가 지배하는 이 시대, 우리가 두려워해야 할 것은 AI가 아닌 인간의 고유함을 잃어 가는 우리 자신이다.
시인 에밀리 디킨슨(1830~1886)은 인간의 뇌는 그 어떤 것으로도 대체될 수 없는 특별한 것이라고 '뇌는 하늘보다 넓다'라고 시작하는 시에서 알려 주고 있다. 그녀의 시처럼 뇌는 하늘보다 넓다. 왜냐하면 인간의 마음이 단순히 물리적인 한계를 넘어서는 무한한 상상력과 개념적 확장을 담고 있기 때문이다. 뇌는 하늘을 그 자체로 포용할 수 있을 뿐 아니라, 당신 자신까지도 그 안에 담아낼 수 있다. 즉 우리의 내면은 외부의 거대한 세계를 쉽게 수용하고 이해할 수 있는 능력을 가지고 있고 이것은 AGI도 불가능한 영역이다.
디킨슨은 뇌가 바다보다도 깊다고 강조한다. 인간의 내면과 감정, 생각의 깊이가 단순한 물리적 깊이를 훨씬 넘어선다는 의미다. 마치 스펀지나 양동이가 물을 흡수하듯이, 뇌는 경험, 감정, 정보 등 모든 것을 흡수하여 자신 안에 담아낸다. 이 또한 AI가 따라올 수 없는 영역이다. 마지막으로 디킨슨은 뇌가 신의 무게와 같다고 비교하면서 인간의 정신이 지닌 중요성과 신성함을 강조하고 있다. 인간의 내면은 단순한 물질 이상의, 신비롭고 심오한 가치를 담고 있고, 때문에 설령 뇌와 신 사이에 어떤 차이가 있다 하더라도 그것은 마치 음절과 소리의 차이만큼이나 미묘하다고 주장한다.
AGI 또는 ASI의 출현이 임박한 이때 이런 뇌를 가진 인간이 인간다움을 잃지 않는다면 AI와 공진화가 가능한 유토피아가 열릴 것이다. 왜냐하면 복잡한 것은 단순하게, 단순한 것을 명료하게, 명료한 것을 감동 있게 설명할 줄 아는 능력은 여전히 인간의 몫이기 때문이다. 현재의 AI에 대한 공포는 AI의 엄청난 능력이 문제가 아니라 그 능력을 손에 쥐게 될 인간의 미성숙함에 대한 공포가 문제의 본질이 아닐까 생각해 본다. 우리는 정말 다가올 AI 시대를 두려워하는가, 아니면 AI 시대에 인간이라는 우리 자신의 정체성을 잃고 AI와 점점 닮아가고 있는 우리 자신을 두려워하는가?
유재수 싱귤래리티 금융 소사이어티(SFS) 간사 yoojs64@gmail.com
