동원·다이닝브랜즈·당근, 에이전트 도입 이후 실전 거버넌스 노하우 공개
기업 현장 곳곳에서 AI 에이전트가 업무에 투입되고 있지만, 정작 도입 이후에는 응답 품질 저하와 통제 불능의 API 비용 폭증이라는 새로운 리스크에 직면하는 사례가 늘고 있다. 에이전트가 스스로 판단하고 외부 툴을 호출하기 시작하면서, 기존의 정형화된 보안 규정과 인력 관리 방식만으로는 돌발 행동과 권한 오남용을 막기 어렵다는 지적이 나온다. '얼마나 많은 에이전트를 만드느냐'가 아니라 '얼마나 안전하고 지속 가능하게 통제할 수 있느냐'가 기업 AI 경쟁력을 가르는 새로운 승부처로 떠오르고 있다.
전자신문인터넷(대표 김승규)은 9월 16일 잠실 한국광고문화회관에서 데브멘토와 함께 'AI 에이전트 가드레일 & 거버넌스 실전 세미나'를 개최한다고 31일 밝혔다.
이번 세미나는 현업 투입 전 갖춰야 할 기술적 통제 아키텍처 설계부터, 오픈 이후 마주하는 운영 리스크를 방어하는 실전 해법까지 폭넓게 다룬다. 특히 에이전트를 전사에 선제적으로 안착시킨 동원그룹·다이닝브랜즈그룹·당근 등 기업 현장 책임자가 직접 자사의 품질 관제 노하우와 거버넌스 실행 전략을 공개할 예정이다.
첫 세션은 장동인 KAIST 김재철AI대학원 교수가 '에이전트 가드레일: 사람과는 다른 통제가 필요하다'를 주제로 문을 연다. 장 교수는 AI 에이전트가 사람처럼 판단하고 행동하지만 책임 소재와 허용 행동 범위, 권한 수준은 근본적으로 다르게 설계돼야 한다는 점을 짚으며, 신원·행동·권한·데이터 보안·비용/품질·멀티에이전트 운영 등 여섯 가지 통제축을 개괄한다.
이어 김유신 메가존클라우드 AI스페셜리스트가 'AI핀옵스와 AI 토큰 거버넌스'를 주제로, 자율형 에이전트 시대 기하급수적으로 늘어나는 토큰 비용 폭증의 실체를 분석한다. 그는 토큰 소모량이 늘어날수록 오히려 정확도가 정체·하락하는 '토큰 비용과 정확도의 역설' 현상을 데이터로 짚고, 프롬프트 캐싱·서킷 브레이커·의도적 망각(Ralph Loop) 기술을 결합한 4계층 하네스 통제 아키텍처를 제안한다.
박종성 동원그룹 CIO는 이어 '지속 가능한 설계 : 엔터프라이즈 AI 에이전트를 위한 거버넌스 프레임워크'라는 주제로 발표한다. 박종성 CIO는 동원그룹이 60여 개의 AI 에이전트를 'AI사원' 개념으로 등록·추적·평가해온 자체 운영 거버넌스 체계를 소개하며, 정량·정성 지표를 결합한 평가체계 'AX추진지수'가 실제 운영 의사결정에 반영되는 구조를 사례 중심으로 다룬다.
한정우 다이닝브랜즈그룹 IT전략 프로젝트 매니저는 전사 AI 플랫폼과 5개 업무특화 에이전트를 구축하며 함께 설계한 답변 품질 평가·운영 관제·현업 역할 체계를 공유한다. 오픈 이후 품질과 활용도를 판단하는 기준, 문서 기반 답변의 한계를 데이터플랫폼 연계로 확장해가는 다음 단계도 소개한다.
마지막 세션은 이예찬 당근 SW엔지니어가 맡는다. 당근 구성원 절반가량이 매주 사용하는 사내 AI 에이전트 '카비'의 토큰 거버넌스와 운영 전략을 가드레일·거버넌스 관점에서 공개한다. 원격 에이전트의 다중 사용자 서버 보안 대응, 사내 여러 에이전트 간 협업 관리, 최근 시도 중인 관측·평가·개선 루프 등을 다룰 예정이다.
한편 이번 세미나에 대한 자세한 내용과 참가 신청은 행사 페이지(https://conference.etnews.com/conf_info.html?uid=521)에서 확인할 수 있다.
유은정 기자 judy6956@etnews.com
