정보통신산업진흥원(NIPA)이 업무 혁신을 위한 '생성형 인공지능(AI)' 도입 밑그림 그리기에 나선다. NIPA가 이재명 정부가 추진 중인 'AI 3대 강국 도약' 이행을 위한 핵심 기관이라는 점에서, 이번에 도입할 생성형 AI 모델이 향후 공공 표준 모델로 자리 잡을지 주목된다.
14일 업계 등에 따르면 NIPA는 생성형 AI 시스템 구축을 위한 사전 절차에 착수했다.
이번 사업은 NIPA 임직원 500여명이 활용할 기관 맞춤형 거대언어모델(LLM) 구축 방안을 수립하는 것이 골자다.
NIPA는 단순·반복적인 행정 업무를 자동화하고 생산성을 높일 최적의 AI 모델을 찾는다. 거대언어모델(LLM)뿐만 아니라 비용 효율성이 높은 경량 거대언어모델(sLLM)의 유형과 특장점까지 분석한다.
공공기관의 특정 행정 업무(규정 검색, 보고서 초안 작성 등)에는 수천억 파라미터의 거대 모델보다 7B~13B(70억~130억) 파라미터 수준의 sLLM을 파인튜닝하는 것이 비용과 속도 면에서 효율적이기 때문이다.
구축 방식으로는 클라우드 보안인증(CSAP)을 획득한 네이버클라우드, KT클라우드 등 국내 클라우드 서비스 제공사(CSP) 인프라 위에 국산 LLM(하이퍼클로바X, 엑사원 등)을 올리거나, 내부 서버에 sLLM을 설치(온프레미스)하는 방안을 비교·검토한다.
업계는 NIPA가 '한국형 AI'를 도입할 가능성에 무게를 둔다. NIPA는 국가정보원 보안지침과 CSAP 준수를 핵심 제약 사항으로 명시했다. 민감한 내부 데이터를 다루는 공공기관 특성상 데이터 해외 유출 우려가 있는 외산 클라우드나 모델보다는, 보안 요건을 충족하는 국산 AI 모델과 인프라가 유리하다.
생성형 AI의 고질적 문제인 '환각(할루시네이션)'을 잡기 위한 기술적 검토도 이뤄진다. NIPA는 내부 법령, 규정 등 신뢰할 수 있는 데이터를 검색해 답변을 생성하는 검색 증강 생성(RAG) 기술 도입을 필수 검토한다. 거짓 정보를 생성하지 않고 근거 기반의 정확한 행정 처리를 지원하려는 것이다.
NIPA는 오는 2027년에는 기관 맞춤형 LLM을 구축해 상용 LLM 활용 체계를 마련하고, 2028년에는 주요 업무 서비스로 AI 적용을 확대한다. 2029년에는 AI 업무 서비스를 보편화해 업무 전반에 정착시킨다는 계획이다.
NIPA 관계자는 “내부 업무 혁신을 통해 생산성을 높이고, 궁극적으로 서비스 전반의 AI 전환을 확대해 대국민 서비스 질을 향상하겠다”고 말했다.
류태웅 기자 bigheroryu@etnews.com
