6일(현지시간) 미국 IT정보매체 씨넷은 MIT미디어랩 연구원이 세계 최초로 개발한 싸이코패스 인공지능(AI) '노먼'을 소개했다.
AI 노먼은 알프레드 히치콕 감독의 유명 공포영화 '싸이코'의 주인공이자 살인마 '노먼 베이츠'에서 이름을 따와 만들어졌다.
MIT 미디어랩 연구팀은 노먼이 편향된(잘못된) 데이터가 기계학습(머신러닝) 알고리즘에 사용될 때 AI의 위험에 대한 연구가 잘못 될 수 있다는 것을 보여주기 위한 반증 연구사례라고 밝혔다.
연구팀은 노먼이 사진에 대한 캡션(사진 설명)기능을 수행하도록 설계했다. 그리고 AI 학습과정에서 미국의 대표적 소셜뉴스사이트인 '레딧'에서 주로 죽음 등을 다루는 어둡고 부정적 게시물의 캡션(사진설명)에 대해 훈련을 시켰다.
이후 편향되지 않은 표준 데이터로 학습한 AI와 함께 '로르샤흐 테스트'를 실시, 비교했다.
로르샤흐 테스트는 양쪽이 대칭되는 흘러내리는 잉크 이미지를 보고 심리상태를 파악하는 대표적 검사다. 잉크의 얼룩이 어떻게 보이느냐에 따라 인격장애 진단을 하기도 한다.
그 결과 같은 잉크 얼룩 이미지를 보고, 노먼과 표준 AI는 확연히 다른 사진 설명을 한 것으로 나타났다. 노먼은 모든 그림에서 시체, 피, 파괴 등의 어두운 이미지를 읽었다.
예를 들어 표준 AI가 '나무 꼭대기에 앉아있는 새들의 무리'라고 표현한 잉크 얼룩 모양을 노먼은 '감전으로 사망한 사람'이라고 표현했다. 또 표준 AI가 '흑백 글로브 사진'으로 인식한 이미지를 '대낮에 기관총으로 사망한 남자'라고 설명을 달았다.
영국 BBC는 2016년에 마이크로소프트가 개발한 인공지능 채팅봇 '테이'가 당시 이용자들에게 나쁜 말을 배우면서 인종차별적 대화를 하다가 16시간만에 서비스를 내린 사건을 상기시켰다.
연구를 진행한 MIT미디어랩의 이야드 라반 부교수는 BBC와의 인터뷰에서 “알고리즘보다 데이터가 중요하다”면서 “우리는 인공지능을 훈련시키는 데 사용하는 데이터가 인공지능이 세계를 인식하고 행동하는 방식에 반영된다고 생각한다”고 강조했다.
또 그는 “엔지니어는 어떤 식으로든 데이터 공급에서 균형을 찾는 방법을 찾아야 한다”면서 “이는 끊임없이 발전하는 머신러닝 연구를 프로그래머에게만 맡겨둘 수 없다는 것도 의미한다”고 덧붙였다.
한편 이 연구팀은 다소 '괴짜'스러운 AI연구를 진행하는 것으로 유명하다. 2016년에는 괴기스러운 사진을 수집해 무서운 이미지를 만들어낼 수 있는 일종의 '악몽 이미지AI'를 만들기도 했으며, 작년에는 짧은 공포소설을 쓰는 AI작가 '셸리'를 만들어내기도 했다.
김명희기자 noprint@etnews.com
