치한 위 애피어 CEO 겸 공동 창립자
구글, 오픈AI 등 글로벌 기술 기업들이 AI 기반 쇼핑 기능을 확대하면서 에이전틱 커머스가 현실로 다가오고 있다. 이는 새로운 쇼핑 방식의 등장을 넘어 소비자 행동의 근본적인 변화를 뜻한다. 앞으로 '소비자'는 더 이상 사람만을 의미하지 않을 수 있다. AI 에이전트가 새로운 소비 주체로 등장하고 있기 때문이다.
생활용품을 다시 구매하는 상황을 떠올려 보자. 제품을 찾고 가격을 비교해 주문하는 일련의 과정은 머지않아 AI 에이전트가 자율적으로 처리하게 될 것이다. AI가 구매 권한과 예산 관리, 의사결정까지 맡게 되면 브랜드의 커뮤니케이션 방식도 달라져야 한다. 사람을 설득하는 것을 넘어 AI 에이전트가 브랜드와 제품을 정확히 이해하고 선택할 수 있도록 소통해야 한다.
에이전틱 커머스가 보편화되면 브랜드는 서로 다른 방식으로 판단하는 두 주체를 마주하게 된다. 한쪽에는 스토리텔링과 디자인, 유명인의 추천, 정서적 유대에 영향을 받는 소비자가 있고, 다른 한쪽에는 가격과 제품 사양, 효율성, 성능 등 구조화된 정보로 제품을 평가하는 AI 에이전트가 있다.
앞으로는 사람의 마음과 알고리즘을 동시에 설득하는 브랜드가 선택받게 될 것이다. 이는 사람 중심의 '관심 경제'에서 AI 에이전트가 관여하는 '의도 경제'로의 전환을 의미한다. 브랜드는 사람의 감성을 움직이는 스토리와 AI가 읽고 판단하기 쉬운 구조화된 정보를 함께 갖춰야 한다. 광고 역시 사람의 반응뿐 아니라 AI 에이전트의 행동과 자동화된 의사결정까지 고려해 지속적으로 정교화하는 과정이 중요해질 것이다.
AI 에이전트가 가격 비교와 상품 구매, 의사결정까지 수행하는 자율적인 실행 주체로 진화하면서 기업 역시 AI에 더 많은 업무를 맡기게 될 것이다. 그러나 AI 에이전트의 판단을 과연 신뢰할 수 있을까?
오늘날의 AI는 때때로 정답을 몰라도 자신 있게 답하는 학생과 같다. 이러한 '자신 있게 틀리는' 행동은 기업 환경에서 운영 비효율, 잘못된 의사결정, 평판 훼손, 금전적 손실로 이어질 수 있다. 기업의 AI 도입을 가로막는 주요 장벽 중 하나가 신뢰성에 대한 불확실성인 이유다. 그렇다면 AI는 자신이 무엇을 모르는지 스스로 알 수 있을까?
자연어 질문을 데이터베이스 질의어(SQL)로 변환하는 작업에서 AI가 불확실한 내용을 임의로 판단하지 않고 먼저 추가 질문을 하도록 하면 정확도를 크게 높일 수 있다. 중요한 것은 AI가 질문할 수 있느냐가 아니라 언제 질문해야 하는지를 스스로 판단할 수 있느냐다. 여러 AI 에이전트가 하나의 워크플로에서 협업하는 환경에서는 일종의 '운영적 자기 인식'이 필요하다. 스스로 판단의 확신도와 한계, 위험 수준을 파악해 직접 답할지, 상위 단계로 넘길지, 도움을 요청할지를 결정하는 능력이다.
기업이 AI를 안정적으로 활용하기 위해 해결해야 할 핵심 과제는 크게 네 가지다. 첫째, 새로운 능력을 학습하면서 기존 역량을 잃는 '파국적 망각'을 줄여야 한다. 예측하기 어려운 토큰을 식별하고 파인튜닝 전략을 최적화함으로써 기존 역량의 저하를 크게 줄일 수 있다.
둘째, 추가 질문과 과도한 질문 사이의 균형이 필요하다. 외부 피드백과 모델 간 교차 검증을 적용하면 AI가 추가 확인이 실제로 필요한 시점을 학습할 수 있으며, 정확도와 사용자 경험을 30% 이상 개선할 수 있다.
셋째, 리스크를 고려한 의사결정이다. 답변의 확신도와 기대효과, 위험을 함께 고려하면 답할지, 거부하거나 상위 단계로 넘길지를 합리적으로 판단할 수 있으며 고위험 상황에서의 손실도 60~70% 줄일 수 있다.
마지막은 '역량 캘리브레이션'이다. 기존의 신뢰도 점수가 개별 답변에 대한 확신 정도를 측정한다면, 역량 캘리브레이션은 AI가 답변에 나서기 전에 해당 과제를 성공적으로 수행할 수 있을지를 스스로 가늠하는 방식이다. 이를 통해 추가적인 추론 비용을 최소화하면서 AI가 자신의 역량과 한계를 파악하고 보다 신뢰할 수 있는 결정을 내리도록 돕는다.
결국 기업용 AI의 미래는 얼마나 좋은 답을 내놓느냐를 넘어 언제 판단하고 언제 멈춰야 하는지를 아는 능력에 달려 있다.
AI의 진정한 가치는 자신의 역량과 한계를 이해하고 인간의 판단 능력을 확장하는 데 있다. AI 에이전트가 전문적인 업무 수행 능력과 자신의 한계를 인지하는 능력을 함께 갖추고, 필요할 때 사람의 개입을 요청할 수 있다면 기업은 더 높은 신뢰를 바탕으로 AI를 활용할 수 있다.
브랜딩과 커머스, 엔터프라이즈 소프트웨어의 다음 변화를 이끄는 것은 단순한 자동화가 아니다. 대규모 환경에서도 신뢰할 수 있는 의사결정을 내리는 AI가 그 변화를 이끌게 될 것이다.
애피어 CEO 겸 공동 창립자 치한 위
