지난주 미국 샌프란시스코에서 열린 스노우플레이크 서밋 2026에서 가장 많이 언급된 단어는 단연코 인공지능(AI)이었지만 정작 핵심은 AI 모델이 아니었다. 무대 위 발표와 인터뷰에서 반복된 메시지는 분명했다. 기업 AI의 성패는 모델 그 자체보다는 데이터·권한·업무 맥락·거버넌스 등 기본기에 달려 있다는 점이다.
최근 많은 기업이 생성형 AI와 AI 에이전트를 앞다퉈 도입한다. 사내 챗봇을 만들고, 문서 검색을 자동화하고, 개발·분석 업무에 AI를 붙인다.
그러나 실제 현장에서 효과를 얻고 있는 사례는 많지 않다. 글로벌 컨설팅업체 맥킨지에 따르면 기업 AI 사용률은 88%에 달했지만, AI를 대규모로 적용해 높은 성과를 내고 있다고 응답한 기업은 6%에 그쳤다.
AI 에이전트는 단순한 검색창이 아니다. 사용자의 의도를 해석하고, 데이터를 조회하고, 업무 도구를 호출하며, 경우에 따라 판단과 실행까지 맡는다. 그렇다면 기업은 먼저 물어야 한다. AI가 접근할 수 있는 데이터는 어디까지인가. 주요 데이터를 조직마다 다르게 정의하고 있지는 않은가. AI가 내린 판단과 실행은 누가 책임지고, 어떻게 추적할 것인가.
이 질문에 답하지 못한 AI 전환(AX)은 오래가기 어렵다. 업무 프로세스는 그대로 둔 채 AI만 얹으면 결과는 제한적일 수밖에 없다. 보고서 초안 작성, 회의록 요약, 사내 문서 검색을 넘어 실제 생산성과 의사결정 개선으로 이어지려면 기업의 일하는 방식 자체가 바뀌어야 한다.
AX는 기술 도입 프로젝트가 아니라 기업 운영 체계 개편에 가깝다. 기술 관점으로만 접근해선 제대로 된 AX 성과를 만들 수 없다.
국내 기업도 그동안 AI 도입 속도에만 매몰된 건 아닌지 점검할 때다. 이제 AX의 질문은 '어떤 AI를 도입했는가'에서 'AI가 일할 수 있도록 기업을 바꿨는가'로 옮겨가야 한다.
강성전 기자 castlekang@etnews.com
