기업 인공지능(AI) 경쟁의 무게중심이 거대언어모델(LLM)의 성능 비교에서 실제 업무를 수행하고 성과를 창출하는 실행 체계로 옮겨가고 있다.
기업 AX 경쟁력 강화를 위해 AI를 단순 업무 보조 도구가 아니라 기업 시스템 안에서 계획하고 실행하는 업무 주체로 정착시키는 데 주력해야 한다는 제언이 나왔다.
18일 서울 삼성동 웨스틴 파르나스 호텔에서 열린 전자신문이 개최한 'CAIO 서밋 2026'에서는 기업들의 성공적인 AX를 위한 AI 에이전트·운영체계 마련을 위한 방안을 공유했다.
김재은 솔트룩스 최고기술책임자(CTO)는 AI 에이전트 기술이 단순 질의응답과 도구 사용을 넘어 다단계·장시간 업무 수행 단계로 진입했다고 진단했다. 실험 단계를 넘어 실제 업무 구조를 바꾸기 시작했다는 것이다. 다만 아직 장기간 업무에는 사람의 감독이 필요하다고 봤다.
김 CTO는 AI 에이전트가 더 오래, 정확하게 일하기 위한 기반으로 온톨로지를 제시했다. 기업 내부에 흩어진 데이터와 문서의 의미와 관계를 구조화해야 에이전트의 환각을 줄이고 판단 근거를 설명할 수 있기 때문이다.
그는 “AX의 핵심은 AI에 얼마나 긴 업무를 맡길 수 있는가에 달렸다”며 “온톨로지가 있어야 에이전트가 더 오래, 더 정확하게 일할 수 있다”고 말했다.
김성식 엔코아 그룹장은 모델과 에이전트가 바뀌더라도 기업의 데이터 의미와 판단 기준은 장기 자산으로 축적해야 한다고 강조했다. 기업에 남겨야 할 자산을 개념·용어·관계, 원천 데이터 매핑, 검증·변경 이력으로 정의했다.
김 그룹장은 “첫 AI의 작동에서 만족하는 것이 아니라 검증된 맥락을 다음 AI 과제에 재사용하고, 업무가 바뀌어도 믿고 쓸 수 있는 기반이 AI 레디 데이터 전략”이라며 “즉, 첫 과제에서 검증한 의미와 기준을 다음 과제의 출발점으로 남기는 것”이라고 말했다.
장정훈 와이즈넛 CTO는 AI가 절감한 시간이 실제 이익으로 연결되지 않는 '생산성 단절'을 지적했다.
그는 “시간은 절약됐지만 그 시간이 아직 생산으로 돌아오지 않았다”며 “절약된 시간이 저절로 생산성이 되지 않는다”고 말했다.
AI가 절약한 시간을 영업이익으로 연결하려면 측정·병목·재작업·검증·확산 비용을 따로 설계해야 한다고 주장했다. 장 CTO는 “효율은 이미 확인된 만큼 남은 과제는 이를 이익으로 잇는 설계”라고 강조했다.
양승현 코난테크놀로지 최고운영책임자(COO)는 모델 성능보다 AI가 실제 업무를 끝까지 수행하도록 만드는 '에이전틱 워크플로우'가 중요해졌다고 분석했다. AI가 이벤트 감지와 계획 수립, 도구 실행, 결과 검증을 담당하고 사람은 승인과 책임을 맡는 방식으로 업무 흐름을 재설계해야 한다는 것이다.
양 COO는 “에이전트의 지능은 모델이 만들지만 신뢰성은 시스템이 만든다”며 “AI를 더 많이 쓰는 기업이 아니라 AI가 일할 수 있도록 업무를 다시 설계한 기업이 앞서갈 것”이라고 말했다.
고석태 제논 대표는 생성형 AI가 답변을 만드는 'GenAI 1.0'에서 업무를 실행하고 운영하는 'GenAI 2.0'으로 전환하고 있다고 진단했다. 코어 시스템은 AI가 개발을 돕고, 현업의 업무처리 시스템은 AI가 직접 생성하는 방향으로 기업 시스템 구축 방식이 바뀐다는 것이다.
고 대표는 “AI 솔루션은 정보처리 접근성 향상에서 AI가 직접 업무를 처리·완결하는 '액셔너블 AI'로 발전했다”며 “GenAI 2.0은 기업 업무를 이해하고 실행하는 AI 기반 운영시스템으로 앞으로 AI는 디지털 업무를 넘어 물리세계로 확장할 것”이라고 말했다.
강성전 기자 castlekang@etnews.com
