“가장 심각한 실수는 틀린 답에서 나오지 않는다. 정말 위험한 것은 틀린 질문을 던지는 일이다.” 경영학자 피터 드러커가 남긴 말이다. 옳은 질문에 틀린 답을 내면 고치면 된다. 틀린 질문에 옳은 답을 내면 틀린 줄도 모른 채 멀리 간다. 인공지능(AI)은 답이 나오는 속도를 끌어올렸고 질문의 무게는 그만큼 커졌다.
AI는 이제 보고서를 쓰는 데서 그치지 않는다. 스스로 목표를 세우고 일을 처리하는 '에이전틱 AI(Agentic AI)', 로봇과 자동차의 몸을 빌려 현실 공간에서 움직이는 '피지컬 AI(Physical AI)'로 넓어지고 있다. 그런데 기술은 가파르게 달리는데 그것을 받아들이는 사람과 조직은 천천히 움직인다. 그 틈에서 현장의 리더들은 묻는다. 판단도 작업도 기계가 하는 시대에 사람은 무엇을 해야 하는가.
미국 펜실베이니아대 와튼스쿨의 이선 몰릭(Ethan Mollick) 교수는 저서 '듀얼 브레인'에서 실마리를 내놓았다. 원제가 '공동 지능(Co-Intelligence)'인 이 책에서 그는 AI를 업무 도구가 아니라 함께 생각하는 또 하나의 두뇌로 대하라고 말한다. AI는 탐색하고 계산하고 실행하는 두뇌이고 사람은 맥락을 읽고 방향을 정하는 두뇌다. 그래서 듀얼 브레인은 AI를 잘 쓰는 요령이 아니라 두 두뇌가 일을 나누는 방식이다. 관건은 '사람이 AI에 무엇을 넘기고 무엇을 끝까지 쥐고 있느냐'이다.
그렇다면 사람의 두뇌에는 무엇이 남는가.
첫째, 질문을 다시 쓰는 일이다. 물류와 제조 현장에 로봇을 들이는 조직은 흔히 “자율 구동률과 작업 속도를 어떻게 끌어올릴 것인가”부터 묻는다. 그러나 병목이 속도에만 있는 것은 아니다. 예상 밖의 상황에서 로봇이 무엇을 기준으로 움직이는지 사람이 모르면 문제는 다른 곳에서 생긴다. 믿지 못하는 기계에 사람은 일을 맡기지 않는다. 질문은 이렇게 바뀌어야 한다. “로봇의 판단 기준에 현장의 안전 원칙을 어떻게 심을 것인가.” AI는 주어진 문제를 누구보다 잘 푼다. 그러나 그 문제가 풀 만한 문제인지는 묻지 않는다.
둘째, 방향을 정하는 일이다. 자율주행이 좋은 예다. 구글 계열의 웨이모는 값비싼 라이다(LiDAR)와 레이더, 카메라를 함께 쓴다. 테슬라는 카메라만으로 간다. 한쪽은 비용을 치르고 안전의 여유를 샀고, 다른 쪽은 확장 속도를 택했다. 같은 도로를 두고 두 회사가 다른 답을 낸 셈이다. 어느 쪽이 옳은지는 센서 데이터가 말해주지 않는다. 어느 만큼의 위험을 받아들일지, 무엇을 먼저 지킬지를 정하는 일이기 때문이다. 그것은 계산이 아니라 결단이다.
여기서 직관을 감이나 눈치로 오해하면 안 된다. 직관은 오랜 경험과 관찰이 쌓여 한순간에 작동하는 종합 판단력이다. 숙련된 반장이 기계 소리만 듣고 이상을 알아채는 것과 같다. AI의 분석은 과거 기록의 연장선이다. 아직 오지 않은 변화 앞에서는 선택지를 늘어놓을 뿐이다. 그 가운데 하나를 골라 “이 방향으로 간다”고 말하는 것은 사람이다.
한국의 현장도 다르지 않다. 공장과 물류센터마다 로봇과 AI 에이전트 도입을 논의한다. 회의실에서 오가는 말은 대개 도입률과 자동화율이다. 무엇을 기계에 맡기고 무엇을 사람에게 남길지 묻는 자리는 드물다. 로봇을 몇 대 들였는지는 보고서에 남는다. 작업자가 그 로봇을 믿고 등을 돌릴 수 있는지는 어디에도 적히지 않는다. 숫자로 잡히지 않는 것은 회의에 오르지 않는다. 답을 서두르느라 질문을 건너뛰는 셈이다.
드러커의 경고는 AI 시대에 더 무거워진다. 기계는 틀린 질문에도 흠잡을 데 없는 답을 내놓기 때문이다. 속도를 물은 조직은 더 빠른 로봇을 얻고, 신뢰를 물은 조직은 함께 일하는 로봇을 얻는다. 결국 혁신의 기술은 더 똑똑한 기계를 들이는 기술이 아니다. 기계가 답하기 전에 사람이 먼저 옳은 질문을 세우는 기술이다.
김태형 단국대 대학원 데이터지식서비스공학과 교수·정보융합기술·창업대학원장
