지자체 행정도 AI 시대…해외도 적극 활용

서울시, 자체 LLM 탑재 '챗봇 2.0'
1세대 챗봇보다 유연하고 독립 환경
영국·일본 등 해외 지자체도 AI

인공지능(AI) 시대에 발맞춰 지방자치단체 공무원들의 행정 업무에도 AI가 활발히 도입되고 있다. 챗GPT와 같이 일반 AI를 활용하는 형태부터 지자체가 자체 AI를 적용하는 사례도 있다.

8일 서울시에 따르면 시는 문서 탐색, 규정 확인, 보고서 작성 등 반복 행정업무를 생성형 AI로 대체하는 새로운 행정 지원 체계 '챗봇 2.0' 사업을 시작했다. 올해 내부망에 자체 초거대 언어모델(LLM)을 도입해 일부 부서에 시범 운영하고, 내부 행정 시스템과 연계한 고도화 기능을 순차적으로 확대할 계획이다.

오세훈 서울시장이 지난달 22일 서울시청 다목적홀에서 열린 '창의행정 AI로 제안하는 아이디어톤' 행사에 참석했다. 연합뉴스

시는 그동안 시민·직원이 사용하는 챗봇 서비스를 제공해왔지만, 모두 정해진 규칙과 검색에 기반한 고정 응답 방식으로 유연한 대화 생성이나 맥락 이해가 필요한 복합 질의에는 한계가 있었다. 이번 챗봇 2.0 사업을 통해 1세대 챗봇의 한계를 넘어 생성형 AI 기반의 유연한 AI 행정 지원 체계가 구현될 것으로 기대된다. AI가 내부 시스템과 연계된 정보를 바탕으로 실시간 응답해 직원이 일일이 부서로 문의하거나 자료를 요청하지 않아도 된다. 서울시 직원 대상 설문조사 결과 문서 초안 자동작성 23%, 문서 요약 및 정리 20% 등 생성형 AI에 대한 내부 수요도 있는 것으로 나타났다.

특히 서울시 자체 LLM을 도입한다는 점에서 더 안전하다. 자체 폐쇄망에서 운영되는 LLM 기반 'AI 비서'는 공공기관 특성상 내부 정보 보호가 중요한 만큼 내부망에 구축된 독립형 AI 환경에서 운용된다. 외부 전문가 자문회의 결과 자체 LLM 구축이 보안·신뢰성 측면에서 적절하지만, 대시민 서비스 등 전면 확산은 신중하게 접근할 필요가 있는 만큼 단계적으로 추진해 나갈 방침이다.

중앙정부 차원에서도 AI 행정은 큰 의제다. 윤호중 행정안전부 장관은 지난달 25일 취임사에서 "인공지능을 활용해 유능하고 효율적인 AI 민주정부로 나아가겠다"고 포부를 밝혔다. 윤 장관은 "세계 1위 전자정부, 디지털정부를 달성한 소중한 경험을 토대로 AI 전환에도 속도를 내야 한다"며 "행안부가 앞장서 공공 AI 전환을 선도하고 정부 역량과 효율을 극대화함으로써 공공행정의 패러다임을 근본적으로 혁신하는 정부 대혁신의 진앙지, 발원지가 될 것"이라고 했다.

AI의 사회 전반적 확산은 세계 여러 나라의 행정 시스템도 파고들었다. 지자체 공무원 감소, 재정 부족이라는 상황에서 서비스 효율화를 위해 행정에 AI를 도입하는 움직임이 곳곳에서 포착되고 있다. 영국 지자체협회(LGA)의 2024년 조사에 따르면 영국의 많은 지자체가 다양한 공공 서비스에 생성형 AI를 적용하고 있는 것으로 나타났다. 대표적으로 버킹엄셔 주의회 고객 서비스 부서는 AI의 통화 내용 요약·기록 기능으로 통화당 평균 2분을 절약해 작업시간의 33%를 단축했다.

고령화로 인구가 감소하고 지자체 과제는 늘어나고 있는 일본에서도 AI 행정을 도입했다. 가나가와현 요코스카시는 2023년부터 챗GPT 도입을 시험적으로 개시해 보도자료 초안 작성, 요약, 아이디어 발굴 등에 사용했다. 챗 GPT를 사용한 직원 80%가량이 업무 시간이 단축돼 효율성이 향상됐다고 평가했다.

김영원 기자 forever@asiae.co.kr