인공지능(AI)이 단순 제품 개발을 넘어 사회가 좋은 의사결정을 하는 데 사용될 수 있도록 '프로세스로서의 AI 디자인'에 대한 책임감이 필요하다는 의견이 제기됐다.
14일 디자인코리아 2024 컨퍼런스 기조강연에 나선 연사들은 AI를 디자인을 위한 툴을 넘어 의사결정과 사회적 영향까지 고려한 책임이 필요하다고 말했다.
영국에서 '사회 혁신가들의 혁신가'로 평가받는 제프 멀건 유니버시티칼리지 런던 교수는 “AI는 인류 역사상 가장 큰 디자인 문제를 안겨줄 것”이라며 “자동차, 전기 등 인류 생활을 바꾼 혁신기술이 많지만 AI는 디자인 혁신 측면에서 가장 큰 영향을 끼칠 것”이라고 내다봤다.
멀건 교수는 AI가 일상생활에 더 보편화·내재화될 것이며 이 과정에서 향후 20년 안에 'AI 거버넌스 디자인'이 가장 중요한 문제가 될 것이라고 분석했다.
그는 “자동차가 개발된 이후 도로 표지, 차선, 속도제한, 스쿨존, 음주운전 처벌 등 자동차를 둘러싼 수많은 사회적 규정과 문화가 수립됐다”며 “아직 AI를 둘러싼 수많은 요소에 대한 거버넌스 디자인이 부족하므로 AI가 가져올 위험을 최대한 예측해 최소화하는 노력이 필요하다”고 말했다.
또 “잘못된 알고리즘은 사람을 불행하게 만들 수 있으므로 좋은 사회적 영향을 끼칠 수 있는 AI를 디자인하는 것은 우리 모두의 책임”이라며 “다양성을 극대화하고 알고리즘을 투명화해 위험성에 대비해야 한다”고 강조했다.
케빈 워커 코번트리대 포스트디지털 문화연구센터 교수는 “이제는 디자인으로서의 AI가 아니라 프로세스로서의 AI 디자인을 고민해야 한다”고 말했다.
또 “AI에는 기술뿐만 아니라 사람과 사회에 대한 분석이 들어있기 때문에 기술이 아닌 일종의 '사회기술적 시스템'으로 봐야 한다”는 의견도 내놨다.
워커 교수는 “정보가 지나치게 범람하기 때문에 사람들은 알고리즘의 도움을 받길 원할 수 있다”며 “사람들이 좋은 의사결정을 하기까지 AI 디자인의 책임이 크기 때문에 디자이너는 도덕적·윤리적 책임감을 가져야 한다”고 조언했다.
배옥진 기자 withok@etnews.com
