김해시가 전국 지방자치단체 중 처음으로 행정 문서와 법령에 특화된 인공지능(AI) 검색 모델을 자체 개발하고 누구나 무료로 쓸 수 있도록 공개 배포한다고 30일 밝혔다.
이 모델은 '행정 전용 검색 AI'로 수많은 행정 문서와 복잡한 법령 속에서 공무원이나 시민이 찾는 정확한 답을 빠르게 짚어준다. 폭넓은 상식을 두루 다루는 일반 AI와 달리 행정과 법률만 집중적으로 공부한 전문가에 가깝다.
개발은 김해시 AI정책과 공무원들이 직접 맡았다. 고성능 그래픽처리장치(GPU) 서버를 자체 구축한 뒤 성능이 검증된 다국어 AI 모델(BGE-M3)에 공개된 AI 허브 데이터 셋을 통해 약 60만건의 행정 문서 학습 데이터와 행정법 데이터를 집중적으로 학습시켰다. 이렇듯 기존 AI에 특정 분야 지식을 추가로 가르쳐 전문가로 바꾸는 기술을 '파인튜닝(미세조정)'이라고 한다.
모델은 두 단계로 답을 찾는다. 먼저 문서의 의미를 빠르게 훑어 관련 후보를 추려내고(임베딩) 이어서 AI가 후보들을 한 번 더 꼼꼼히 대조해 가장 정확한 답을 맨 위로 끌어올리는(리랭커) 과정을 거쳐 어렵고 방대한 법령·지침 속에서도 원하는 내용을 정확히 집어낸다.
보안도 강점이다. 외부 인터넷과 분리된 시청 내부망에서만 작동하기 때문에 개인정보와 대외비 문서가 외부로 나갈 일이 없고 외부 유료 서비스에 매번 내야 하는 사용료 부담도 없다.
여기서 그치지 않고 김해시는 자체 개발한 모델을 세계 최대 AI 공유 플랫폼 '허깅페이스(Hugging Face)'에 공개 배포한다. 이를 통해 전국 240여개 지자체를 비롯해 공공기관, 행정 AI를 연구하는 대학·연구소 등에서도 내려받아 활용할 수 있다.
김해시는 “이번 모델 개발과 무상 공개는 김해시가 기술을 단순히 사다 쓰는 데서 나아가 직접 만들어 나누는 단계로 올라섰다는 의미”라며 “앞으로 시민을 위한 맞춤형 AI 행정서비스를 꾸준히 발굴하고 전국 공공기관과 함께 성장하는 디지털 환경을 만드는 데 앞장서겠다”고 밝혔다.
김해=노동균 기자 defrost@etnews.com
