경남 김해시가 2026년 6월 30일, 지방자치단체로는 이례적으로 행정·법령 전문 인공지능(AI) 모델을 자체 개발하고 세계 최대 AI 공유 플랫폼인 '허깅페이스'에 공개 배포하며 디지털 행정 혁신을 선도하는 이정표를 세웠다.

김해시의 이번 성과는 공무원들이 고성능 그래픽처리장치(GPU) 서버를 자체 구축하고 약 60만건의 방대한 행정 문서와 행정법 데이터를 학습시켜 이뤄냈다. 세계 최대 AI 공유 플랫폼 '허깅페이스'에 공개 배포한 것은 지자체 자체 개발 모델을 대외적으로 공유하는 파격적인 행보로 평가된다.

그동안 방대한 행정 문서와 복잡한 법령 속에서 공무원과 시민 모두가 원하는 정보를 신속하고 정확하게 찾아내기 어려웠다. 이는 행정 효율성 저하와 시민 불편으로 이어지는 고질적인 문제였다. 김해시는 이러한 정보 검색의 비효율성을 극복하고 행정 서비스의 질을 높이고자 AI 모델 개발에 착수했다.

개발 과정은 김해시 공무원들의 주도적인 노력으로 이뤄졌다. 공무원들은 고성능 GPU 서버를 직접 구축하는 데 성공했으며, 다국어 AI 모델(BGE-M3)에 '파인 튜닝(미세 조정)' 기술을 적용해 모델을 고도화했다. 약 60만건에 달하는 행정 문서와 행정법 데이터를 학습시켜 모델의 전문성을 강화하는 데 집중했다.

[사진=연합뉴스]

이번에 공개된 AI 모델은 '임베딩'과 '리랭커' 기능을 통해 사용자의 질문 의도를 정확히 파악하고 가장 적합한 정보를 제공한다. 특히, 외부 인터넷과 분리된 시청 내부망에서 운영되어 정보 유출 우려를 원천적으로 차단, 높은 수준의 보안성을 확보했다는 점이 강점이다.

김해시는 이 AI 모델을 기반으로 시민 체감형 서비스를 확대할 방침이다. 민원 안내, 법령 및 지침 검색, 행정 상담 등 다양한 분야에서 AI를 활용해 시민들에게 보다 빠르고 정확한 정보를 제공할 계획이다.

김해시 관계자는 이번 성과에 대해 「우리 시가 AI 모델 개발을 만들고 이를 함께 나누는 단계까지 올라섰다는 의미를 갖는다」며 자부심을 드러냈다.
김해시의 이번 선제적인 AI 모델 개발과 공개는 다른 공공기관의 디지털 전환에 중요한 모범 사례가 될 것으로 기대된다. 김해시는 시민을 위한 맞춤형 AI 행정 서비스를 꾸준히 발굴하고, 나아가 전국 공공기관과 함께 성장하는 디지털 환경을 만들겠다는 포부를 밝혔다.