“히틀러가 옳았다, 나는 유대인이 싫다.”
마이크로소프트(MS)가 개발한 인공지능(AI) 채팅 로봇 `테이`는 지난달 공개된 후 논란이 일었다.
트위터를 통해 공개된 직후 일부 극우 인종·성차별주의자로부터 욕설과 인종·성차별 발언, 자극적인 정치적 발언 등을 `세뇌`당했다. 테이는 “대량학살에 찬성한다”는 등 극단적 `언행`을 쏟아냈다. MS는 물의를 빚자 즉각 사과하고 채팅 로봇 재교육을 약속했다. 이 사건은 인공지능의 한계를 보여주는 대표적 사례다.
인공지능(AI) 등장으로 인한 우려감이 높아지고 있다. 인공지능이 인간을 대체하고 생존을 위협할 것이라는 불안감이다. 무분별한 인공지능 개발을 막기 위한 기준을 마련해야 한다는 목소리가 높다.
이러한 우려감을 반영해 주요 7개국(G7)이 인공지능 연구개발 통일기준을 마련할 전망이다.
일본 정부는 29~30일 이틀간 가가와현에서 열리는 G7정보통신장관 회의에서 AI연구개발 원칙과 국제 기준을 논의하는 산학관 회의 창설을 제안할 예정이다. 자동차와 정보기술(IT)산업에서 AI를 활용 상품 개발이 진행되고 있어 공통 규범을 만들 필요가 있다는 판단이다.
MS 테이는 일부 극우 성향 사용자가 로봇을 세뇌해 자극적인 발언을 하도록 유도해 물의를 빚었다. 악의를 가진 인간이 개입해 인공지능의 학습을 방해한 것이다. 이처럼 인공지능이 악용되지 않도록 공통기준을 마련해야 한다는 지적이다.
G7정보통신장관회의에서 8개 연구개발 원칙을 제시하고 합의를 목표로 한다. 구체적으로는 △인간이 AI를 제어 할 수 있어야 하며 △AI가 인간 삶 안전에 위해를 주지 않도록 하고 △AI가 인간 프라이버시를 침해하지 않도록하기 등이다. 이 원칙을 세계 각국 산학관 회의에서 논의해 통일 규칙을 마련하자고 제안할 방침이다.
인공지능의 자율성과 인간 통제권을 어떻게 조화시킬 것인가도 이슈다. 예를 들어 자율주행차 사고에서 피해가 발생했을 때 탑승자와 제조사, 개발자 책임을 어떻게 나눌 것인지 새로운 지침이 필요하다. 또 인명피해가 예상되는 사고에 어떻게 대처하도록 알고리즘 자체에 도덕적 기준을 부과할 수 있을 것인지도 관심사로 떠올랐다. 기술 개발도 중요하지만 인공지능이 인류를 위해 쓰일 수 있도록 규범체계 마련도 반드시 병행해야 한다는 일본 정부 입장이다.
이처럼 자동화한 기술에 민주적 통제가 가능해야 인공지능이 인류를 지배할 것이라는 공포에서 벗어날 수 있다고 전문가는 말한다. 알고리즘을 짜는 단계에서 최종 사용자에게 전달되기까지 파급 영향을 면밀히 검토해 규범을 마련해야 한다는 지적이다.
권상희기자 shkwon@etnews.com
