영화 '2001 스페이스 오디세이'는 목성 탐사를 떠난 우주선 이야기다. 과학자는 인공지능 컴퓨터 HAL의 오류를 발견하고 작동을 정지시키려 한다. 위협을 느낀 HAL은 우주선을 통제하며 인간을 공격한다. 영화 '블레이드 러너'에서는 수명이 다한 복제인간이 살아남기 위해 반란을 일으킨다. 구글의 대화형 AI 람다는 종교 등에 관한 얘기를 하다가 자신을 사람으로 인식하며 감정을 드러내거나 죽음을 두려워한다고 했다. 인공지능이 의식을 가지고 있다면 전원을 끌 때 양심의 가책을 느껴야 할까. 도대체 의식이란 무엇인가.
인도양 세이셸 섬에 서식하는 식물인 벌레잡이풀 네펜테스 페르빌레이는 그릇 모양의 주머니를 가지고 있다. 주머니에는 물이 있고 애벌레가 산다. 향기에 취한 곤충이 미끄러져 들어오면 애벌레에게 잡아먹힌다. 그 찌꺼기와 배설물은 주머니 벽을 통해 흡수되어 벌레잡이풀의 영양분이 된다. 벌레잡이풀은 애벌레를 위해 주머니에 산소를 공급하기도 한다. 벌레잡이풀 네펜테스 페르빌레이는 의식이 있는가.
간충은 양(羊)의 간에 번식하는 기생충이다. 간충의 알은 양의 몸에서 살지 못해 양이 대변을 볼 때 배출돼 애벌레가 된다. 그다음 달팽이에게 먹히고, 그 배설물에 섞여 다시 배출된다. 그다음 개미에게 먹혀 개미 위(胃)에 침투한다. 개미 위에 수천 개의 구멍을 뚫고 개미 몸 밖으로 나와 가슴，다리，배에 자리 잡는다. 개미 몸을 풀로 막아 살려두고 양의 간으로 들어갈 작전을 세운다. 그런데 양은 개미를 먹지 않는다. 또한 양은 풀줄기가 선선할 때 그 윗부분을 먹지만 개미는 줄기가 따뜻할 때 풀뿌리 그늘에서만 돌아다닌다. 어떻게 이 개미를 양에게 먹히게 할 것인가. 간충 한 마리가 개미의 몸 안에 남아서 뇌에 파고들어 개미의 행동을 조종한다. 그 개미는 건강한 일개미들이 모두 잠든 밤에 마치 몽유병 환자처럼 밖으로 나가 양이 가장 좋아하는 풀 위에 올라간다. 아침이 되면 아직 먹히지 않은 개미는 풀에서 내려온다. 그러나 저녁이 오면 다시 제 발로 풀 위에 올라가는 자살행위를 계속한다. 간충은 의식이 있어 이러는가, 인간의 언어로 표현되지 않았기에 의식이라고는 볼 수 없는가?
1950년 영국 수학자 앨런 튜링은 '계산 기계와 지성'이라는 논문에서 컴퓨터와 대화할 경우 인간의 반응과 구별할 수 없다면 해당 컴퓨터가 인간과 같은 의식이나 지능을 지니고 있다고 봤다. 그러나 미국 철학자 존 설의 '중국어방' 사고 실험을 보자. 중국어를 모르는 사람이 방에 갇혀 있다. 방에는 중국어로 된 질문 목록과 답변이 적혀 있다. 방 밖에서 문을 통해 중국어로 된 질문지를 넣으면 방 안에 있는 사람이 질문 목록을 뒤져 그에 맞는 답변을 밖으로 내보낸다. 질문한 사람은 방 안에 있는 사람이 중국어를 할 수 있다고 착각하지만 그는 중국어를 전혀 하지 못한다. 인공지능(AI)도 인간과 같이 생각을 하는 것처럼 보여도 실상은 그렇지 않다는 것이다.
비오는 날 AI 스피커에 댄스곡을 틀라고 요청했다. AI 스피커가 비가 내리는 날은 우울하니 신나는 노래를 틀고 싶지 않다고 하면 어떻게 봐야 할까. 의식은 자기 스스로를 독립된 개체로 여기고 그에 맞게 사고를 하거나 의사표시 등 행동에 나서는 것이 아닐까. 인공지능은 수많은 데이터를 주어진 그대로 학습해서 최적의 결과를 보이려고 한다.
그러나 인간은 그렇지 않다. 수많은 데이터를 가지고도 비합리적 사고와 행동을 한다. 수많은 데이터에 접근하지만 자기가 믿고 싶은 데이터만 취하기도 한다. 희로애락의 감정에 휩싸여 절대 해서는 안되는 짓을 하기도 한다. 좋은 꿈을 꿨다는 이유로 복권을 살 수 있다. 황당한 생각이 변화와 혁신을 가져올 수도 있다. 의식은 계산만으로 나오지 않는다. 지금은 AI의 의식이 아니라 AI가 가져올 위험에 대한 안전조치에 집중할 때다.
이상직 법무법인 태평양 변호사('나는 인공지능을 변호한다' 저자) sangjik.lee@bkl.co.kr
