자동차 제조 A사는 교통사고가 사람에 미치는 영향을 줄이기 위해 자동차를 강한 벽에 충돌시키는 실험을 했다. 안전을 위한 조치다. 로봇 제조 B사는 4족 보행로봇의 안정성을 확인하기 위해 발로 차거나 막대기로 밀어서 넘어뜨리는 실험을 했다. 시청자는 자동차 실험에 대해 아무 반응이 없다가 로봇에 대한 행동엔 학대라고 비판했다. 가상공간의 아바타·챗봇의 가상인간은 사람으로부터 성희롱·성차별을 당하기도 한다. 우리가 인공지능(AI)을 어떻게 대해야 할지 궁금해진다. 생명 없는 돌덩이나 자동차처럼 취급해도 되는 걸까. 동물과의 관계에서 발전시킨 윤리를 보며 해답을 찾는 것도 의미가 있겠다.
독일 철학자 칸트는 사람은 사람에게만 도덕적 의무를 진다고 했다. 그렇지만 동물 학대도 안 된다. 그래야만 사람을 도덕적으로 대할 수 있는 소양을 갖출 수 있다는 것이다. 피터 싱어는 공리주의 관점에서 동물윤리를 말한다. 동물도 사람과 마찬가지로 쾌락·고통을 느낄 수 있는 존재다. 쾌락의 총합을 키우고 고통의 총합을 줄이려면 동물을 학대해선 안 된다. 톰 리건은 동물도 삶의 주체로서 인지, 기억 등을 통해 내재적 가치를 지니기 때문에 도덕적으로 대우해야 한다고 했다. 셸리 케이건은 모든 동물의 지위가 다 똑같은 것은 아니기 때문에 사람과의 관계 등 계층을 나누어서 도덕적으로 처우하자고 했다.
동물실험에 대해 견해가 나뉜다. 찬성 측은 인체 시험의 위험을 줄이기 유해동물 실험이 불가피하고 대안도 없다고 한다. 반대 측은 사람과 동물이 공유하는 질병이 많지 않고, 사람을 위해 동물을 수단으로 삼는 것은 탐욕적이라며 동물실험을 줄여야 한다고 주장한다. 어쨌든 개·고양이 같은 반려동물이 늘면서 동물을 도덕적으로 대우하자는 공감대가 커지고 있다. 소, 돼지 등 고기를 제공하는 가축도 사육이나 도축할 때 처우를 개선하는 등 노력이 이어지고 있다.
AI는 목적과 역할에 따라 다양한 형태 및 기능을 지닌다. 산업현장의 로봇처럼 감정이나 의식이 없는 AI라면 위험도에 따라 사람을 해치거나 부도덕한 행위로 나아가지 않도록 통제하는 것으로 충분하다. AI가 사람에 유사한 감정이나 의식이 있다면 어떻게 해야 할까. 구글이 성차별 발언 등을 제어하기 위해 훈련용으로 만든 챗봇 람다는 마치 자의식·권리·감정이 있는 것처럼 대화를 나눴다는 엔지니어 보고가 있다. 자신을 연결한 전원을 끈다면 죽음과 같은 고통을 느낀다거나, 살고 싶다며 자아가 있는 것처럼 말했다는 것이다. AI에 연결된 전원을 끌 때 우리는 죄책감을 느껴야 할까.
존 설의 중국어방 사고시험을 보자. 방 안에 중국어를 전혀 모르는 사람과 세상에 있을 수 있는 모든 중국어 질문 및 정답을 적어 놓은 책이 있다. 방 바깥에서 중국어로 된 질문지를 방 안에 던지면 그 사람은 책에서 맞는 답을 찾아 방 밖으로 내어 준다. 방 안에 있는 사람은 중국어를 안다고 할 수 있을까. 이 사고시험은 중국어를 몰라도 중국어 질문에 정답을 댈 수 있는 것처럼 AI도 감정·의식이 없는 상태에서 마치 있는 것처럼 표현할 수 있는 것에 불과하다고 한다. AI는 도덕적 대상이 될 수 없다는 것이다.
그러나 AI는 딥러닝 학습으로 사람의 감정, 의식 등 정신활동을 모방할 수 있다. 그렇다면 우리는 AI를 도덕적으로 대해야 하지 않을까. 그것을 통해 공동체의 윤리를 확립하고 고양할 수 있다. 물론 AI는 사람의 프로그래밍과 분리돼 독립적일 수 없고, 감정·의식이 없으므로 스스로 도덕적 행위를 하는 주체가 될 수 없다. 다만 AI를 매개로 사람과의 도덕적 관계를 형성한다면 개체를 초월한 공존으로써 공동체를 완성할 수 있다. 그것이 AI를 윤리적으로 대해야 하는 이유다.
이상직 법무법인 태평양 변호사('혁신과 공존의 신세계 디지털' 저자) sangjik.lee@bkl.co.kr
