인공지능(AI) 서비스 사용량이 많은 상위 10% 프런티어 기업이 일반 기업 대비 활성 이용자 1인당 8배 이상 토큰 사용량이 많은 것으로 나타났다. 일반 생성형 AI 서비스보다 코딩 에이전트 토큰 사용량이 과반인 것으로 확인됐다.
오픈AI는 13일 이같은 내용을 담은 '엔터프라이즈 시그널'을 발표했다. AI 활용 현황과 선도 기업들이 AI를 실제 업무에 적용하는 방식을 분석한 보고서다. 기업용 AI가 질문에 답하는 단계를 넘어 AI 에이전트에 보다 복잡하고 여러 단계로 구성된 업무를 위임하는 방향으로 발전하는 것으로 나타났다.
AI 활용도가 높은 프런티어 기업들은 다른 기업과 동일한 AI 모델에 접근하면서 AI를 조직 맥락과 도구, 반복 가능한 업무 흐름에 보다 빠르게 연결하며 활용 범위를 넓히고 있는 것으로 조사됐다.
오픈AI는 '코덱스'와 '챗GPT 워크'를 대표 에이전트형 AI 제품으로 소개했다. 코덱스를 활용한 에이전트형 AI는 소프트웨어(SW) 개발에서 먼저 확산, 최근에는 개발자를 넘어 기업 전반 지식 노동자들이 실질적 업무를 AI에 위임하는 방식으로 활용되고 있다.
지난 6월 기준, 기업 고객의 코덱스와 챗GPT 전체 출력 토큰 가운데 코덱스가 차지한 비중은 64%였다. 에이전트형 AI가 일반 질의응답보다 더 많은 연산과 출력을 필요로 할 수 있다. 이러한 수치는 기업 AI 활용이 실질적인 업무 수행 중심으로 이동하고 있음을 보여주는 지표로 해석된다.
또 프런티어 기업은 일반 기업(AI 사용량 기준 중간 수준)보다 활성 사용자 1인당 8.3배 많은 출력 토큰을 생성한 것으로 나타났다. 올해 1월 2.6배와 비교하면 기업 간 격차가 5개월 새 3배 이상 확대된 것이다.
이러한 격차는 산업별로도 나타났다. 정보·기술 산업에서 프런티어 기업과 일반 기업 간 출력 토큰 사용량 격차가 11.7배로 가장 컸고, 제조업에서는 5.3배로 상대적으로 작았다.
오픈AI는 짧은 답변도 높은 가치를 제공할 수 있다는 점에서 출력 토큰이 기업 비즈니스 가치를 직접 측정하는 지표는 아니라고 설명했다. 출력 토큰 수를 직원들이 AI에 얼마나 많은 업무를 맡기고 있는지, AI 활용의 깊이를 가늠하는 간접 지표라는 취지다.
AI 에이전트가 의미 있는 업무를 수행하려면 기업의 업무 맥락과 데이터, 적절한 도구에 접근할 수 있어야 한다. 오픈AI는 플러그인을 통해 재사용 가능한 지침을 제공하는 스킬과 기업의 데이터·도구·업무 시스템에 연결하는 앱을 결합해 특정 업무 흐름을 수행하도록 지원한다.
프런티어 기업은 이러한 고급 기능을 일반 기업보다 적극적으로 활용하고 있다. 주간 활성 사용자 기준 프런티어 기업 21%가 플러그인을 사용했지만, 일반 기업은 9% 수준이었다. 오픈AI 내부에서는 활성 직원 95%가 매주 플러그인을 사용한다.
또 2월 이후 기업의 주간 활성 코덱스 사용자는 법무 분야에서 108배, 영업 분야에서 41배, 채용 분야에서 41배, 마케팅 분야에서 26배 증가했다. 같은 기간 엔지니어링 분야의 증가 폭은 5배였다.
10만건 이상 메시지를 분석한 결과, 챗GPT에서는 글쓰기와 커뮤니케이션이 가장 일반적인 활용 방식으로 나타났다. 에이전트형 AI 메시지에서는 코딩과 시스템·에이전트 운영이 전체의 약 75%를 차지했다.
박종진 기자 truth@etnews.com
