비씨카드는 세계 최대 규모의 오픈소스 기술 콘퍼런스인 '레드 햇 서밋 2026'에서 '에이전틱 AI 운영 플랫폼' 구축 사례를 알렸다고 18일 밝혔다.
레드 햇 서밋은 글로벌 오픈소스 기업 레드햇이 2005년 미국 뉴올리언스에서 처음 개최한 이후 매년 진행하고 있는 오픈소스·클라우드·AI 기술 콘퍼런스로 매해 전 세계 IT 리더, 개발자·엔지니어 등 수만 명이 참석하는 글로벌 행사다.
비씨카드는 지난 14일(현지시간) 미국 애틀란타에서 진행된 행사에서 국내 금융사 중 최초로 발표자로 초청받아 레드햇과 지난 1년여간 동안 공동으로 구축한 '에이전틱 AI 운영 플랫폼' 사례를 글로벌 무대에 최초로 공개했다.
에이전틱 AI는 단순 답변을 넘어 스스로 판단하고 행동하는 AI를 뜻한다. 이를 활용한 '에이전틱 AI 운영 플랫폼'은 하나의 거대언어모델(LLM)에 모든 업무를 의존했던 기존 방식에서 영역별로 특화된 다수의 소형언어모델(SLM)을 군집화해 동시에 처리할 수 있도록 했다.
특히 LLM의 경우 높은 운영 비용과 느린 처리 속도라는 한계가 존재했지만 SLM은 특정 업무에 최적화돼 안정적 결과 도출은 물론 추론 속도가 최대 3배 이상 향상돼 동시에 그래픽처리장치(GPU) 자원을 최대 70%까지 절감할 수 있게 됐다.
이날 행사장에서 비씨카드는 연간 100억건 이상 결제 데이터를 처리하며 축적한 노하우를 AI 기술에 접목시켜 고가의 GPU 자원을 효율적으로 분산한 사례를 발표했다. 이 과정에서 운영 비용이 획기적으로 낮아졌고 서비스 속도도 3배 이상 끌어올리는 성과를 거뒀다.
이 같은 기술적 성과를 기반으로 △Eat.pl(실시간 소비 패턴 분석 후 맛집 추천) △BCGPT(금융 특화 생성형 AI 플랫폼 통한 임직원 업무 지원) △MOAI(여러 AI 연결해 업무 자동화 구현) 등 현재 운영 중인 서비스도 소개했다.
오성수 비씨카드 AI데이터본부장은 “한국 금융권을 대표해 단순한 AI 도입 사례를 넘어, 오픈소스 생태계에 기여하는 기술 주체로서의 정체성을 지속적으로 보여줄 예정”이라고 말했다.
김신영 기자 spicyzero@etnews.com
