“공유재산 사용료를 세 번 연속 체납한 경우 계약을 즉시 해
지할 수 있습니까?”

과거라면 이 질문 하나에 담당 공무원은 업무편람을 찾고, 조
례를 확인하고, 관련 부서에 문의한 뒤 다시 법령을 검토해야
했다. 짧게는 20분, 길게는 한 시간이 걸리는 일이다. 하지만
이제 서울시에서는 이 질문에 AI가 1분도 채 되지 않아 관련
규정과 근거를 함께 제시한다. 단순히 문서를 검색해 주는 것
이 아니라 여러 규정을 종합해 답을 만들어 주는 것이다.

서울시는 지금 ‘공무원이 AI와 함께 일하는 행정’을 가장 먼저 실험하고 있는 지방정부다.

우리나라는 세계 최고 수준의 전자정부를 구축했다. 민원인은 주민센터를 방문하지 않아도 각종 증명서를 발급받고 온라인으로 민원을 신청할 수 있게 되었으며, 행정서비스의 속도도 크게 향상되었다. 그러나 정작 공무원의 일하는 방식은 크게 달라지지 않았다. 새로운 정책을 검토할 때는 여전히 수십 개의 규정과 업무편람을 찾아야 했고, 보고서와 보도자료를 작성하는 일도 대부분 사람이 직접 수행해야 했다. 전자정부는 국민의 불편은 줄였지만 공무원의 업무 자체를 혁신하지는 못했던 것이다.

생성형 AI는 바로 이 지점을 바꾸기 시작했다. 이제 AI는 단순한 검색 프로그램이 아니라 문서를 읽고, 규정을 이해하며, 초안을 작성하는 업무 파트너가 되고 있다. 서울시가 추진하는 ‘챗봇 2.0’은 이러한 변화를 가
장 잘 보여주는 사례다.

사실 서울시는 이미 오래전부터 AI 행정을 준비해 왔다. 2020년에는 시민용 챗봇 ‘서울톡’을 도입했고, 2023년에는 직원용 업무 챗봇인 ‘서우리 주무관’을 운영하기 시작했다. 하지만 기존 챗봇은 정해진 질문과 답변을 연결하는 수준이었다. 질문이 조금만 달라져도 적절한 답을 찾지 못했고, 여러 규정을 함께 검토해야 하
는 복합적인 행정업무에는 한계가 있었다.

그래서 서울시는 한 단계 더 나아갔다. 2025년부터 자체 초거대 언어모델(LLM)을 내부망에 구축하는 ‘챗봇 2.0’ 사업을 시작한 것이다. 이번 사업의 핵심은 검색형 챗봇을 생성형 AI 기반의 'AI 행정비서’로 바꾸는 데 있다.

예를 들어 공무원이 “공유재산 사용료를 3회 연속 체납하면 계약을 즉시 해지할 수 있는가?”라고 질문하면 AI는 지방세 외수입 업무편람과 관련 조례, 내부 지침을 동시에 검색하고 내용을 종합해 근거와 함께 답변한다. 더 이상 담당 부서에 전화를 걸거나 여러 문서를 뒤질 필요가 없다. AI가 공무원의 첫 번째 업무 파트너가 되는 것이다.

문서 작성 방식도 달라진다. 기획안을 올린 뒤 “이 내용을 바탕으로 보도자료를 작성해 달라”고 요청하면 AI가 서울시 양식에 맞춰 초안을 작성한다. 회의자료를 요약하거나 정책 보고서를 정리하는 일도 AI가 담당한다. 서울시가 실시한 직원 설문조사에서도 문서 초안 작성과 문서 요약, 내부 문서 기반 질의응답이 가장 필요한 기능으로 나타났다. 공무원들이 가장 많은 시간을 사용하는 업무를 AI가 지원하도록 설계한 것이다.

서울시 사례에서 특히 주목해야 할 점은 보안 전략이다. 민감한 행정정보를 다루는 공공기관이 외부 생성형 AI를 그대로 사용하는 데에는 분명한 한계가 있다. 서울시는 이를 해결하기 위해 자체 LLM을 폐쇄형 내부망에 구축했다. 내부 정보는 외부로 유출되지 않으면서도 생성형 AI의 장점을 그대로 활용할 수 있는 구조를 선택한 것이다. 이는 앞으로 지방정부가 AI를 도입할 때 가장 현실적인 모델이 될 가능성이 크다.

그러나 서울시의 목표는 여기서 끝나지 않는다. 서울시는 자체 LLM 구축 이후 AI 에이전트를 행정시스템과 연계하는 단계까지 준비하고 있다. 앞으로 공무원이 “다음 주 시장 보고용 자료를 준비해 달라”고 지시하면 AI가 관련 정책을 찾고, 최신 통계를 정리하고, 보고서 초안을 작성하며, 보도자료까지 함께 준비하는 시대를 목표로 하고 있다. 질문에 답하는 AI를 넘어 실제 업무를 수행하는 AI로 진화하는 것이다.

시민이 이용하는 ‘서울톡’ 역시 생성형 AI로 진화하고 있다. 기존에는 등록되지 않은 질문에 “답을 찾기 어렵습니다.”라고 응답하던 챗봇이 이제는 서울시 홈페이지와 보도자료, 새소식 등을 실시간으로 참고해 맥락을 이해하고 자연스럽게 답변한다. 시민은 더 빠르고 정확한 서비스를 받고, 공무원은 반복적인 민원 응대에서 벗어나 보다 중요한 업무에 집중할 수 있게 된다.

서울시 사례는 단순히 새로운 AI 시스템을 도입한 사례가 아니다. 행정의 중심이 ‘사람이 시스템을 활용하는 방식’에서 ‘AI가 사람과 함께 일하는 방식’으로 바뀌고 있음을 보여준다. 전자정부가 국민의 시간을 줄여 주었다면, AI 정부는 공무원의 시간을 돌려주는 혁신이다. 반복적인 업무는 AI가 맡고, 공무원은 정책을 설계하고 시민과 소통하며 더 나은 공공가치를 만드는 일에 집중하게 된다.

AI 시대 지방정부의 경쟁력은 더 이상 얼마나 많은 시스템을 구축했는가에 달려 있지 않다. 공무원 한 사람의 역량을 AI가 얼마나 증폭시킬 수 있는가, 그리고 그 결과 시민이 얼마나 더 빠르고 품질 높은 행정서비스를 경험하는가가 새로운 경쟁력이 될 것이다. 서울시의 ‘챗봇 2.0’은 그 미래를 가장 먼저 보여주는 실험이며, 모든 지방정부가 주목해야 할 새로운 행정 혁신의 출발점이라 할 수 있다.

[지방정부티비유=이경상 박사]