SK텔레콤이 지난 1일 '인공지능전환(AX) 혁신 2.0'에 속도를 내겠다고 밝혔다. 인공지능(AI) 에이전트를 직접 만들어 본 구성원이 4000명을 넘었고, 사내에서 정기적으로 쓰는 에이전트도 1500개에 이른다. 지난 6월에는 에이전트에 사번과 소속, 직무, 권한을 부여해 입사부터 퇴사까지 관리하겠다는 계획도 내놨다.
많은 기업의 AX는 아직 개인 단계에 머물러 있다. 전 직원 AI 교육과 해커톤으로 각자 에이전트를 만들어 보게 하는 수준이다. 문제는 에이전트가 늘어난 다음에 생긴다. 퇴사자가 만든 에이전트가 여전히 고객 데이터를 읽는데 아무도 모른다. 이번 달 토큰 청구서를 어느 부서가 부담할지도, 에이전트가 고객에게 틀린 견적을 보냈을 때 누가 책임질지도 정해져 있지 않다.
AX를 다섯 단계로 나눠 보면 이런 일이 왜 생기는지 보인다.
첫 단계는 'AI 모델'을 고르는 일이다. 두 번째는 에이전트를 만들고 이끄는 '에이전트 리더'를 키우는 단계, 이후 세 번째 단계에서 회사 지식을 AI가 쓸 수 있게 모은 '컴퍼니 브레인'을 만든다. 네 번째가 에이전트 운용체계(OS)인 '에이전트 OS'이고, 마지막이 업무와 평가, 역할을 다시 짜는 '하이브리드 조직'이다.
그런데 상당수 기업이 에이전트 리더를 키운 뒤 컴퍼니 브레인과 에이전트 OS를 건너뛰고 곧장 하이브리드 조직으로 가려 한다. 에이전트별 권한과 성과 기록이 없으니 어떤 업무를 맡길지 판단할 근거도 없다.
에이전트 OS는 에이전트를 위한 인사 시스템이다. 에이전트 OS 없이 에이전트만 늘리면 채용만 하고 인사팀은 두지 않은 셈이다. 직원에게 사번과 결재 권한을 주듯 에이전트에도 ID와 권한을 줘야 한다. 에이전트마다 상사 역할을 할 책임자를 정하고, 그 에이전트가 하는 일을 모니터링한다. 결과는 감사 기록으로 남겨 평가하고, 쓸모가 다하면 권한을 회수해 퇴사시킨다. 에이전트는 사번을 받을 때가 아니라 회사가 언제든 퇴사시킬 수 있을 때 비로소 일을 맡길 수 있는 동료가 된다.
모니터링을 시작하면 가장 먼저 숫자로 잡히는 것은 비용일 것이다. 에이전트의 인건비는 토큰이다. 일 하나에도 모델을 여러 번 호출하니 에이전트가 늘수록 비용도 불어난다. 하지만 모든 요청에 가장 비싼 모델이 필요하지는 않다. 라이너가 실사용 데이터로 자체 평가해 보니 고성능 모델로 배정된 질의는 약 43%였다. 나머지 57%는 효율적인 모델로 처리해도 정답률이 떨어지지 않았다.
거창한 관리 시스템을 도입하기 전에 회사가 먼저 정할 규칙이 있다. AX 조직이 보안·재무 부서와 함께 세 가지를 합의하면 된다. 첫째, 사내 데이터를 쓰거나 외부로 문서를 보내는 에이전트부터 파악해 책임자를 한 명씩 지정한다. 둘째, 권한은 업무 단위로 주되 만료일을 정해 둔다. 셋째, 모델 호출을 한 창구로 모아 에이전트별 비용과 결과를 기록하고 비용은 사용 부서에 배분한다.
AI 교육으로 에이전트 리더를 키웠다면, 이제 이들이 만든 에이전트에 일을 맡길 에이전트 OS를 갖출 차례다. AX의 성패는 회사가 에이전트를 몇 개 만들었느냐보다 그중 몇 개에 안심하고 업무를 위임할 수 있느냐로 결정된다.
강정구 한국인공지능·소프트웨어산업협회(KOSA) 초거대AI추진협의회 회원·라이너AI 전략 총괄
jade@linercorp.com
