현재의 인공지능(AI)을 뒷받침한 딥러닝 기술의 선구자인 캐나다 컴퓨터 과학자 요슈아 벤지오가 중국이 AI 기술을 감시와 정치적 통제에 활용하는 데 우려를 표명했다.
3일 블룸버그통신에 따르면 벤지오는 자신이 기여한 기술이 사람들의 행동을 통제하고 그들의 생각에 영향을 주는 데 쓰이는 것이 걱정스럽다고 말했다.
그는 인터뷰에서 "(조지 오웰의 책) '1984'의 빅브라더 시나리오"라면서 "점점 더 무서워지고 있다"고 말했다.
몬트리올대 교수이자 AI 소프트웨어 회사 엘리먼트AI의 공동 창업자인 벤지오는 얀 르쿤, 조프 힌튼과 함께 '딥러닝' 대부 3명 가운데 1명으로 꼽힌다.
딥러닝은 인간 두뇌를 모방한 소프트웨어인 신경망을 이용하는 기술로 데이터에 기반을 둬 예측을 한다. 얼굴 인식, 자연어 처리, 번역, 추천 알고리즘 등 최근의 기술 발전의 바탕이 됐다.
딥러닝은 학습을 위한 다량의 데이터가 필요한데, 중국은 인구가 많고 국가가 기록 관리를 하는 시스템이라 데이터가 풍부하다.
중국 정부는 CCTV 카메라와 얼굴 인식을 활용해 무단횡단부터 반정부 활동까지 시민들의 일거수일투족을 모니터한다.
중국은 또한 국가 신용정보공유 플랫폼을 만들어 "반사회적" 행위를 한 사람들이 기차나 비행기도 타지 못하게 블랙리스트에 올려놨다.
벤지오는 "얼굴 인식을 추적에 활용하는 것은 극도로 통제돼야 한다"고 주장했다.
중국의 AI 활용 실태를 걱정하는 것은 벤지오만이 아니다.
억만장자 투자자 조지 소로스는 지난달 24일 세계경제포럼 연설에서 중국이 시민을 억압하는 데 AI를 이용하는 "치명적 위험"을 경고했다.
한편 벤지오는 거대 IT 기업들이 대량의 데이터를 통제하는 것도 우려스럽다면서 비영리기관이 데이터를 특정한 목적으로만 쓰도록 데이터 신탁을 설립하는 것이 해결책이 될 수 있다고 제시했다.
그는 또 AI의 실행으로 대량 실업이 발생할 위험이 있다면서 각국 정부가 부를 재분배할 새로운 방식을 포함해 선제적 대책을 마련해야 한다고 강조했다.
그는 "기술은 더 강력해질수록 권력과 부의 집중을 낳는다"면서 "이는 민주주의에 해가 되고, 사회 정의와 대부분 사람의 행복에도 해가 된다"고 말했다.
김명희기자 noprint@etnews.com
