SK텔레콤이 자체 개발한 텔코(Telco) 거대언어모델(LLM)과 대형멀티모달모델(LMM)을 활용한 고객센터 인공지능(AI) 상담 업무 지원 시스템을 가동했다.
SKT는 지난 1년간 지식정보시스템을 AI 활용에 최적의 구조로 개편하고 다양한 통신 관련 데이터를 활용한 모델 튜닝을 진행했다. 연중 테스트와 피드백을 통한 강화 학습을 반복해 통신 서비스 전용 LLM, LMM 모델을 만들었다.
또 LLM이 질문에 가장 정확하고 구체적 답을 생성할 수 있도록 답변 생성에 필요한 정확한 정보만을 검색, 제공하는 검색증강생성(RAG)을 개발·적용 함으로써 LLM의 답변 신뢰도를 대폭 개선했다.
아울러 텍스트를 넘어 다양한 이미지를 이해할 수 있는 LMM도 활용해 통신 관련 다양한 서류 등 이미지를 학습시켜 통신업에 특화된 전용 LMM을 개발했다
먼저 텔코LLM 기반 AI 지식 검색 도우미 서비스를 통해 상담사들이 필요한 정보를 빠르게 찾아 고객에게 안내할 수 있도록 지원한다.
이 서비스는 상담사들이 필요한 정보를 지식정보시스템에서 일일이 찾을 필요 없이 상담사가 자연어로 질문을 입력하면 AI가 상담사 대신 정보를 검색해 정리해 준다. 이를 통해 상담사들의 정보 탐색 시간을 단축시키고, 상담사 개인의 역량·경력과 무관하게 고품질 상담 서비스를 제공할 수 있게 됐다.
지난달 21일부터 상담 현장에 적용돼 안정화 단계를 거치고 있으며 내년부터는 모든 고객 상담 업무에 전면 적용할 예정이다.
아울러 에이닷 LMM을 활용한 AI 서류 자동처리 시스템도 구축한다. 다양한 형태의 각종 서류를 AI가 자동으로 분류하고 처리해 줌으로써, 증빙서류 확인에 소요되는 시간을 크게 단축시킬 수 있을 것으로 기대된다.
다음달에는 고객 상담 결과를 자동 분류·요약 정리하는 상담 후속 업무 자동화 시스템도 오픈할 예정이다. 평균 30초 정도 소요된 상담 후처리 시간이 대폭 단축돼 보다 빠르게 대기 중인 고객에게 상담을 제공할 수 있다. 개개인 맞춤형 상담도 가능하다.
홍승태 SKT 고객가치혁신 담당은 “AI고객센터로 진화함에 있어 업무 효율화에만 치중하지 않고 고객 개개인에 최적화된 상담을 제공하는 것이 목표”라며 “텔코LLM 기반 상담 업무 지원 시스템을 발판으로, 앞으로도 다양한 AI 기술을 고객 상담 업무에 활용해 국내 최고 수준의 고객센터 상담 서비스를 한단계 더 도약 시키겠다”고 밝혔다.
박준호 기자 junho@etnews.com
