우리는 영화 '아이언맨'에 등장하는 자비스 같은 인공지능(AI) 비서를 사용할 수 있을 것인가. 구글은 2018년 5월 캘리포니아 주 마운틴 뷰에서 개최된 구글 I/O 2018 콘퍼런스에서 '듀플렉스(Duplex)'를 선보였다. 듀플렉스는 사람처럼 대화할 수 있는 대화형 AI다.

Photo Image

콘퍼런스 첫날 선다 피차이 구글 CEO는 AI 비서가 미용실과 레스토랑을 예약하는 것을 선보였다. AI 비서에게 “화요일 오전 10~12시로 미용실 예약을 잡아줘”라고 하자 AI는 직접 전화를 걸어 예약했다. 듀플렉스는 매끄러운 목소리로 대화하며 예약 시간을 유연하게 조정할 뿐만 아니라 통화 중에 “음” “어” 하는 잠시 머뭇거리는 소리를 내며 인간 말투를 모방하기까지 했다. 전화를 받은 직원은 상대방이 사람이 아니라는 것도 눈치 채지 못했다. 청중들은 실제 통화 녹음을 듣는 내내 환호성을 터뜨렸다.

◇한 단계 진화한 대화형 AI

듀플렉스는 기존 대화형 AI보다 한 단계 진화한 모습을 보여준다. AI가 자연스러운 통화를 하려면 몇 가지 과제를 해결해야 한다. 기존 대화형 AI는 주변에서 소음이 발생하거나 통화하는 상대방 사람이 AI가 처리할 수 있는 문장보다 더 복잡한 문장을 구사하는 등 상황에서 제대로 대처하지 못했다. 이러한 문제를 해결하기 위해 구글은 듀플렉스에 순환 신경망(Recurrent Neural Networks)을 적용했다. 순환 신경망을 통해 익명 전화 통화 데이터 뭉치를 학습하도록 한 것이다.

현재까지 듀플렉스는 사람 개입 없이도 대부분 대화에서 스스로 업무를 완수했다. 일반적이지 않은 복잡한 약속을 할 때 과부하가 걸린다는 한계가 있지만 사람처럼 대화 맥락에 적절하게 반응하고 실제 사람 목소리와 매우 흡사한 음성을 구현한다는 점에서 대화형 인공지능은 새로운 차원에 들어섰다고 할 수 있다.

◇인간과 기계 구별이 모호해질 때 생기는 문제

그동안 AI를 구현할 때 문제가 되었던 것 중 하나는 '불쾌한 골짜기(uncanny valley)'다. 불쾌한 골짜기는 AI나 로봇이 어설프게 인간과 닮을수록 불쾌감이 증가하는 현상을 말한다. AI나 로봇이 인간과 전혀 다른 모습이면 호감도에 변화가 없거나 오히려 상승하기도 하지만 부자연스럽게 비슷하면 호감도가 대폭 감소하는 경향을 보인다. 불쾌한 골짜기 구간을 넘어 인간과 더 비슷하고 자연스럽게 만드는 것이 지금까지 AI 개발자 과제였다.

듀플렉스에는 불쾌한 골짜기와 정반대 문제점이 있다. AI 목소리가 실제 인간 목소리와 너무 흡사해 둘을 구분하기 어렵다는 점이다. 인간과 매우 흡사한 AI는 여러 가지 편의를 제공할 수 있지만 인간과 너무 닮아 새로운 문제를 일으킬 가능성도 있다. 사용자가 의도하지 않더라도 기술 한계 때문에 AI가 통화하는 상대방 사람을 교란할 가능성이 있다. 또 보이스 피싱 조직이 AI를 이용해 예전보다 손쉽게 범죄를 저지를 가능성도 배제할 수 없다.

이러한 문제점은 구글에서도 제기되었던 것이다. 듀플렉스를 설계한 어떤 엔지니어는 회사 블로그 게시판에 “이 서비스 핵심 요소는 투명성”이며 이 문제를 해결하기 위한 실험을 해야 한다는 글을 남겼다. 요시 마티아스 구글 엔지니어링 담당 부사장도 CNET과 인터뷰에서 듀플렉스와 통화하는 상대방에게 AI와 통화한다는 사실을 알리는 기능을 해당 제품에 추가할 것이라고 밝혔다. 그러나 이러한 조치는 언제든지 무력해질 수 있다. AI는 우리를 어떤 미래로 인도할 것인가.

글: 김범용 서울대학교 과학사 및 과학철학 협동과정