공공에서 구축하는 다양한 거대언어모델(LLM)을 지속 유지하기 위해서는 장기 운영을 염두에 둔 체계를 구축해야 한다는 의견이 제기됐다. LLM 구축 후 이를 방치하거나 빠른 기술 트렌드 등을 반영하지 못하면 제대로된 활용이 어렵다는 지적이다.
한국지능정보사회진흥원(NIA)은 '지속가능한 공공 파운데이션 모델 구축 및 활용방안 연구' 보고서를 통해 이 같은 점을 강조했다.
최근 몇 년새 공공에서 자체 LLM을 도입하는 움직임이 늘었다. 특히 연구개발(R&D)에 인공지능(AI)을 활용하기 위해 자체 LLM을 구축하는 출연연이 많다. 한국과학기술정보연구원(KISTI)은 과학기술특화 LLM '고니'를 한국지질자원연구원은 지질분야 특화 'GeoAI', 한국원자력연구원은 원자력 전문자료 기반 '아토믹GPT', 한국과학기술기획평가원(KISTEP)은 정책 연구특화 LLM 등을 보유했다.
여기에 더해 행정안전부가 '범정부 초거대AI 공통기반' 사업을, 과학기술정보통신부가 '월드베스트LLM' 등 대규모 장기 프로젝트를 올해 첫 시작한다.
NIA는 부처·기관별 자체 LLM 구축 움직임이 늘 것으로 예상되는 만큼 체계적 지원이 필요함을 강조했다.
NIA는 “LLM은 개발 이후에도 지속적인 개선과 유지보수가 필요한 시스템이며, 공공 부문은 장기 운영을 염두에 둔 체계를 구축해야 한다”면서 “신기술이 등장할 때마다 이를 빠르게 테스트하고 반영할 수 있는 내부 R&D 역량과 협업 체계를 구축해 기술 발전 속도에 유연하게 대응할 수 있어야 한다”고 언급했다.
특히 LLM 기반인 파운데이션 모델 구축 과정에 체계적 접근이 중요함을 주장했다.
NIA는 “진정한 의미의 파운데이션(Foundation) 모델은 단순히 '대규모 모델을 한번 만들어서 성능이 뛰어난 상태'를 의미하지 않고 국가 기술 주권 확보(자체 데이터로 구성된 학습·재학습 체계 확보)가 핵심”이라며 “이를 위해 '지속 가능한 운영 파이프라인'이 반드시 필요하며, 공공이 주도하되 민간 기술을 연계하고, 국제 표준과 정합성 있는 설계를 통해 반복 가능한 운영과 고도화를 동시에 달성할 수 있는 '전주기 체계'를 구축해야 한다”고 강조했다.
AI 정부 실현을 위해 컨트롤타워도 필요하다는 입장이다.
NIA는 “부처별 파운데이션 모델의 연계·통합을 효과적으로 추진하기 위해서는 컨트롤타워가 사업 초기 단계부터 데이터 구조, 플랫폼 연동, 연계 표준 등에 대한 통합 가이드라인을 수립·배포하고, 이를 지속 관리·운영하는 체계를 갖추는 것이 중요하다”며 “공공부문이 반복·중복적 AI 사업을 통합하고, 범정부 차원 전략과 예산을 주도함으로써 장기적이고 안정적인 국가 AI 전략을 실현할 수 있을 것”이라고 조언했다.
김지선 기자 river@etnews.com
