“2027년은 에이전트가 결제나 발주 같은 실무를 직접 집행하는 '자율 거래(Agentic Commerce)'의 해가 될 것입니다.”
김유신 메가존클라우드 매니저(AI 스페셜리스트)는 24일 잠실 한국광고문화회관에서 열리는 '2027 AI가 일하는 회사: 직원마다 AI 비서가 붙는 시대, 무엇을 준비하고 어떻게 통제할 것인가?' 세미나를 앞둔 인터뷰에서 2027년 AI 에이전트 전망에 대해 이렇게 밝혔다. 생성형 AI가 문서 초안을 내놓던 단계를 지나, AI 에이전트가 기업 시스템 안에서 실제 업무를 처리하는 단계로 넘어간다는 진단이다.
그는 “기업들의 가장 큰 숙제는 자율 행동의 권한을 어디까지 허용하고 어느 지점에서 차단할지를 정교하게 설계하는 일”이라고 강조했다.
김 매니저는 메가존클라우드에서 AI 스페셜리스트(Specialist)로 재직하며 애저(Azure) AI 분야의 프리세일즈와 컨설팅을 담당하고 있다. 25년 IT 경력의 마이크로소프트 AI MVP, 공식 인증 강사(MCT)로 활동하며 기업의 AI 도입 전략을 이끌어 왔고, 최근에는 신간 『AI 에이전트 개발의 함정』을 출간했다.
김 매니저는 올해 기업 AI의 특징으로 '파일럿의 한계 확인'과 '하네스(Harness) 통제의 시작' 두 가지를 꼽았다.
그동안 기업들은 챗봇이나 요약 중심의 생성형 AI 파일럿을 많이 진행했다. 답변 품질은 훌륭했지만 그 결과를 전사적자원관리(ERP) 시스템에 입력하고 실제 수치와 맞는지 검증하는 일은 다시 사람 몫이었다. 김 매니저는 “생성된 텍스트와 업무 시스템 사이에서 맥락이 끊기는 병목을 기업들이 현장에서 직접 경험했다”고 설명했다.
이런 경험이 하반기 들어 새로운 흐름으로 이어졌다. AI에게 지시만 내리는 데서 그치지 않고, 기업의 규정과 예산 안에서만 움직이도록 샌드박스와 제동 장치를 갖추는 '하네스 엔지니어링'이 본격적으로 주목받기 시작한 것이다.
김 매니저는 내년 기업이 반드시 준비해야 할 핵심 이슈로 세 가지를 제시했다.
첫째는 비동기 무인 업무, 이른바 '인비저블 에이전트(Invisible Agent)'의 확산이다. 직원이 업무 창을 닫고 퇴근한 뒤에도 에이전트가 백그라운드에서 데이터를 탐색하고 초안을 작성한다. 그는 “사람이 지켜보지 않을 때 일어나는 자율 작업을 어떻게 통제할지가 중요한 화두가 될 것”이라고 말했다.
둘째는 에이전트 신분증과 감사(Audit) 체계 도입이다. 직원에게 사번이 있듯 에이전트에게도 고유 ID를 부여해야 한다는 것이다. 김 매니저는 “에이전트가 어떤 근거로 판단했는지를 위변조가 불가능한 감사 로그로 남겨야 사고가 났을 때 원인을 규명하고 수습할 수 있다”고 설명했다.
셋째는 모델 컨텍스트 프로토콜(MCP)을 통한 시스템 연결 표준화다. 사내 레거시나 외부 시스템과 멀티 에이전트를 안전하게 연동하는 표준 인터페이스 도입이 본격화된다는 전망이다. 그는 “표준 없이 부서별로 제각각 시스템을 연동하면 사내에 통제 불가능한 '섀도 에이전트'가 무분별하게 생겨난다”고 경고했다.
김 매니저는 2027년을 엔터프라이즈 AI의 패러다임이 바뀌는 변곡점으로 봤다. 그는 “지금까지의 생성형 AI가 문맥을 이해하는 지능이었다면 다가올 에이전트는 직접 행동하는 지능”이라고 정의했다.
생성형 AI 시대에는 AI가 문서 초안을 내놓으면 사람이 검토하고 고쳤다. 최종 판단과 책임은 온전히 사람에게 있었다. 반면 에이전트 시대에는 AI가 스스로 판단해 ERP 재고 데이터를 바꾸고 협력업체에 발주서를 보낸다. 김 매니저는 “AI의 산출물이 텍스트 문장에서 기업의 예산이 집행되는 실제 행동으로 바뀐 것”이라고 설명했다.
따라서 2027년 기업들의 가장 큰 과제는 AI 에이전트의 자율 행동 권한을 어디까지 허용하고, 어느 지점에서 차단할 것인지 정교하게 설계하는 일이 될 전망이다.
한편 김유신 매니저는 이달 24일 전자신문인터넷이 개최하는 '2027 AI가 일하는 회사: 직원마다 AI 비서가 붙는 시대, 무엇을 준비하고 어떻게 통제할 것인가?' 세미나에서 강연을 한다. 에이전트 실행 범위 설정, 개인 비서 에이전트의 사내 도입, 비용·보안 관리, 90일 운영 통제 방안 등을 다룬다. 자세한 내용은 행사 홈페이지(https://conference.etnews.com/conf_info.html?uid=531)에서 확인할 수 있다.
유은정 기자 judy6956@etnews.com
