공공기관 맞춤 4대 AI 실증(PoC) 과제 제안
인공지능(AI)·빅데이터 전문기업 데이터사이언스랩이 차세대 지식검색 기술 'ToR-GraphRAG'와 대규모언어모델(LLM) 운영 플랫폼 '모두의 LLMOps'를 공개했다.
공공기관 AI 도입이 기술 검증을 넘어 실제 업무 적용으로 확대되는 가운데 검색 정확도와 안정적인 AI 운영을 동시에 지원한다는 전략이다.
ToR-GraphRAG는 기존 검색증강생성(RAG) 한계를 보완한 기술이다. 자체 기술 'ToR-RAG'를 기반으로 여러 조건이 얽힌 복합 질문을 트리(Tree) 구조로 분해하고, 단계별 검색 결과를 평가·보정해 다음 탐색 방향을 결정한다. ToR-RAG 관련 연구는 지난 4월 SCIE 등재 국제학술지 'Applied Sciences'에 게재됐다.
여기에 문서 내 개체와 관계를 지식그래프로 구조화하는 GraphRAG를 결합했다. 질의를 세분화해 검색 범위를 정교화하고 지식그래프를 활용해 연관 문맥을 확장함으로써 여러 문서를 연계한 추론과 복합 질의 대응 성능을 높이는 데 초점을 맞췄다.
함께 공개한 '모두의 LLMOps'는 LLM 전체 수명주기를 관리하는 운영 플랫폼이다. 프롬프트와 모델 관리부터 평가, 배포·서빙, 모니터링, 거버넌스, 비용 관리까지 LLM 수명주기 전반을 통합 지원한다. 웹 기반 대시보드와 개인정보 필터링, 출력 통제, 접근권한 관리 등 공공기관 업무 환경을 고려한 관리·보안 기능도 제공한다.
데이터사이언스랩은 지난달 27일 정부세종컨벤션센터에서 열린 '제8회 AI정부혁신 콘퍼런스'에서 두 기술을 선보였다.
회사는 이를 기반으로 공공기관 대상 △AI 에이전트 분석 △GraphRAG 지식검색 △Multi-Agent 챗봇 △LLMOps 등 4개 실증(PoC) 과제를 제안했다. 사전 진단과 실증, 도입 전략 수립으로 이어지는 3단계 PoC 방법론을 제시하며 실증 결과가 실제 사업 확산으로 이어지도록 지원할 계획이다.
유희경 데이터사이언스랩 대표는 “공공 AI의 성패는 질문을 얼마나 정확하게 이해하고 실제 업무 데이터와 연결하는지, 도입 이후 얼마나 안정적으로 운영하는지에 달려 있다”며 “기관별 환경과 요구에 맞춰 사전 진단부터 실증, 확산까지 지원하겠다”고 말했다.
조호현 기자 hohyun@etnews.com
