🤖 공무원도 AI 업무비서 쓴다: 안양시 전 직원 도입 실전 해부

⏱ 읽기 약 11분 | 📝 2,227자

'The Super Mario Galaxy Movie' - Review Thread — 💬 Reddit r/artificial: Reddit r/artificial

"이 공문서 형식이 맞는 건지 모르겠어서 법제처 사이트 뒤졌는데 두 시간이 걸렸어요."

한 구청 민원팀 직원이 퇴근 후 SNS에 올린 푸념입니다. 댓글에는 "저도요", "저희 부서도 맨날 이래요"가 줄줄이 달렸죠. 공무원 커뮤니티 '공무원닷컴'에서 2025년 진행한 설문에서 응답자의 71%가 "반복적 문서 작성에 하루 2시간 이상 소비한다"고 답했습니다.

그런데 2026년 1월, 경기도 안양시가 조용히 게임체인저 역할을 하는 발표를 했습니다. 전 직원 1,800명에게 AI 업무비서를 전면 도입한다는 소식이었죠. '공공기관에 AI?' 반신반의했던 사람들은 석 달이 지난 지금, 안양시가 공개한 내부 데이터를 보고 다시 눈을 비볐습니다. 공문서 초안 작성 시간이 평균 62% 단축됐다는 수치 때문이었습니다.

이 글은 단순한 안양시 홍보가 아닙니다. 안양시 사례를 해부해서, 공공 AI가 실제로 어떻게 작동하고, 어디서 삐걱거리고, 다른 기관이 뭘 배워야 하는지를 낱낱이 파헤치겠습니다.

이 글의 핵심: 안양시 AI 업무비서 도입은 단순한 '기술 채택'이 아니라 행정 조직의 일하는 방식 자체를 바꾸는 실험이며, 그 성패는 기술보다 '설계'와 '문화'에 달려 있다.

이 글에서 다루는 것:
- 안양시가 AI 업무비서를 전면 도입하게 된 진짜 배경
- 실제 시스템 구조와 어떤 기술이 들어갔는지
- 직원들이 실제로 쓰는 방식과 부서별 온도 차이
- 도입 전후 수치로 보는 성과와 한계
- 다른 지자체가 따라 하려면 피해야 할 함정
- FAQ와 핵심 요약

🏛️ 안양시는 왜 AI를 '전면 도입'했나: 배경과 결단의 맥락

공공기관 AI 도입 뉴스는 2024년부터 꾸준히 나왔습니다. 그런데 대부분은 "파일럿 테스트 중", "일부 부서 적용"이라는 단서가 붙었죠. 안양시가 다른 이유는 전 직원 동시 적용이라는 규모와 속도 때문입니다.

폭발하는 민원, 줄지 않는 인력

2025년 안양시 행정 통계에 따르면, 민원 처리 건수는 전년 대비 23% 증가했지만 담당 인력은 사실상 동결 상태였습니다. 저출생·고령화로 복지 관련 민원이 급증했고, 비대면 민원 채널이 늘어나면서 처리해야 할 텍스트 업무량이 폭발적으로 늘었습니다.

안양시 디지털혁신과 관계자는 내부 보고서에서 "2025년 기준 민원 처리 1건당 평균 작성 문서량이 2020년 대비 2.4배 증가했다"고 분석했습니다. 더 이상 인력만으로는 버틸 수 없는 구조적 한계에 부딪힌 거죠.

행안부 가이드라인이 열어준 길

결정적 트리거는 행정안전부가 2025년 3월 발표한 '공공부문 생성형 AI 활용 가이드라인'이었습니다. 이 가이드라인은 공공기관이 생성형 AI를 공식 업무에 활용할 수 있는 법적·제도적 근거를 처음으로 명확히 했습니다. 이전까지는 담당자가 개인적으로 ChatGPT를 쓰더라도 공식 업무에 AI 결과물을 활용하는 것이 허용인지 불허인지조차 불명확했거든요.

가이드라인 발표 후 안양시는 6개월 시범 운영을 거쳐 2026년 1월 전면 도입을 공식 선언했습니다.

💡 실전 팁: 다른 지자체가 AI 도입을 검토 중이라면, 행안부 가이드라인을 '허가증'으로 활용하세요. 상급 기관의 공식 지침이 있으면 내부 반발을 줄이고 예산 확보가 훨씬 수월해집니다.

⚙️ 시스템 해부: 안양시 AI 업무비서는 어떻게 만들어졌나

"AI 업무비서"라는 이름만 들으면 ChatGPT 같은 것 하나 설치한 것처럼 들리지만, 실제 구조는 훨씬 복잡합니다.

하이브리드 아키텍처: 보안과 성능의 균형

안양시 AI 업무비서의 핵심 기술 구조는 하이브리드 배포 모델입니다. 크게 두 레이어로 나뉩니다.

온프레미스(내부 서버) 레이어: 개인정보, 행정 내부 문서, 민원인 데이터 등 민감 정보는 절대 외부로 나가지 않습니다. 안양시 자체 서버에서 경량화된 LLM(소형 언어 모델)이 처리합니다. 이 구간에서는 KT의 공공 특화 AI 솔루션인 'Mi:dm(믿음)' 공공 버전이 활용됐습니다.

클라우드 API 레이어: 일반적인 문서 작성 지원, 법령 검색, 번역 등 민감도가 낮은 업무는 클라우드 기반 LLM API를 활용합니다. 응답 품질과 처리 속도가 높은 최신 모델을 유연하게 교체할 수 있다는 장점이 있습니다.

이 두 레이어를 데이터 분류 엔진이 자동으로 판별해서 적절한 경로로 라우팅합니다. 직원 입장에서는 그냥 하나의 채팅창에서 질문하면 되는 거죠.

RAG 기술로 '안양시 전용 지식'을 탑재

일반 AI와 차별화된 핵심 기술은 RAG(Retrieval-Augmented Generation, 검색 증강 생성)입니다. 안양시 조례, 내부 규정, 과거 민원 답변 사례, 행정 절차 매뉴얼 등 수천 건의 문서를 벡터 데이터베이스에 색인해두고, AI가 답변을 생성할 때 이 데이터를 실시간으로 참조하게 만들었습니다.

덕분에 "안양시 공원 조성 관련 조례 몇 조인지 알려줘"라고 물으면 일반 AI처럼 엉뚱한 답을 내놓거나 "모른다"고 하는 대신, 실제 안양시 조례를 찾아서 정확한 조항을 알려줍니다. 이 RAG 구축에만 약 6개월, 전담 인력 8명이 투입됐습니다.

구분	일반 ChatGPT	안양시 AI 업무비서
학습 데이터	범용 인터넷 데이터	안양시 조례·규정·민원 DB
개인정보 처리	외부 클라우드 전송	내부망 온프레미스 처리
답변 정확도(행정 질의)	낮음~중간	높음 (출처 명시)
접근 권한 관리	없음	직급별 3단계 차등
대화 로그 보관	서비스 정책 따름	내부 서버 암호화 저장

💡 실전 팁: RAG 구축 시 "많이 넣는 것"보다 "정확하게 정제된 문서를 넣는 것"이 훨씬 중요합니다. 안양시도 초기에 비정형 문서를 무분별하게 색인했다가 AI가 오래된 폐지 조례를 답변에 인용하는 문제가 생겨서 3개월 치 데이터를 재정제하는 작업을 해야 했습니다.

👩‍💼 직원들은 실제로 어떻게 쓰고 있나: 부서별 활용 실태

도입 3개월이 지난 2026년 4월 현재, 안양시 내부 활용 현황을 부서별로 분석해보면 흥미로운 패턴이 나타납니다.

민원팀: 가장 극적인 변화

민원 접수·처리를 담당하는 부서에서 AI 활용률이 가장 높습니다. 하루 평균 400~600건의 민원을 처리하는 민원팀에서 AI의 역할은 크게 세 가지입니다.

1. 민원 답변 초안 자동 생성: 담당자가 민원 내용을 입력하면 AI가 관련 조례와 전례를 참조해 답변 초안을 작성합니다. 담당자는 이를 검토·수정해서 발송합니다. 평균 처리 시간이 기존 23분에서 9분으로 단축됐습니다(2026년 3월 안양시 내부 측정 기준).

2. 유사 민원 사례 검색: "3년 전에 비슷한 민원이 있었는데 그때 어떻게 처리했지?"라는 질문에 AI가 과거 민원 처리 이력을 검색해서 보여줍니다. 이 기능은 신규 담당자의 온보딩 시간을 줄이는 데도 크게 기여했습니다.

3. 다국어 민원 1차 번역: 안양시에는 외국인 주민이 약 2만 3천 명 거주합니다. 영어·중국어·베트남어 민원의 1차 번역을 AI가 처리해 담당자 부담이 크게 줄었습니다.

기획·예산 부서: 신중한 수용

기획부서의 반응은 훨씬 신중합니다. "AI가 작성한 보고서를 상급자에게 올렸다가 나중에 문제가 생기면 책임은 누가 지냐"는 질문이 아직도 자주 나옵니다. 실제로 기획부서의 AI 활용률은 민원팀의 절반 수준인 것으로 알려졌습니다.

그럼에도 보고서 데이터 요약, 타 지자체 정책 사례 수집, 예산 항목 비교표 작성 등 '보조 리서치' 용도로는 활발히 사용되고 있습니다.

💡 실전 팁: AI 도입 초기에는 "AI가 혼자 결정하는 것"처럼 느껴지는 업무에 저항이 큽니다. 처음에는 "리서치 보조", "초안 작성"처럼 사람이 최종 판단하는 역할임을 명확히 해야 수용도가 올라갑니다.

📊 숫자로 보는 성과: 진짜 효과는 어디서 났나

도입 초기 안양시가 내세운 기대 효과와 실제 측정 결과를 비교해보면, 예상보다 크게 빛난 영역과 예상보다 효과가 작았던 영역이 나뉩니다.

빛난 영역: 문서 작성과 정보 검색

가장 극적인 수치는 공문서 초안 작성 시간 62% 단축입니다. 단순 계산으로, 직원 1인이 하루 1시간을 문서 작성에 쓴다고 가정하면 AI 도입 후 약 22분으로 줄어드는 거죠. 1,800명 전 직원으로 확대하면 하루 약 570시간의 업무 시간이 절약됩니다.

법령·조례 검색 시간도 평균 45분에서 8분으로 단축됐습니다. 이전에는 국가법령정보센터와 안양시 조례 포털을 오가며 검색하던 것을, AI에게 자연어로 물어보면 바로 답이 나오니까요.

기대에 못 미친 영역: 창의적 기획 업무

반면 새로운 정책을 기획하거나 창의적 아이디어가 필요한 업무에서는 AI의 기여도가 낮았습니다. AI가 생성하는 내용이 기존 사례의 조합 수준을 넘지 못한다는 한계 때문입니다. 2026년 3월 내부 만족도 조사에서 '기획 업무 보조'항목 만족도는 5점 만점에 2.8점으로 가장 낮게 나왔습니다.

업무 영역	기대 효과	실제 측정 효과	평가
공문서 초안 작성	50% 단축	62% 단축	✅ 초과 달성
법령·조례 검색	30% 단축	82% 단축	✅ 대폭 초과
민원 처리 시간	40% 단축	61% 단축	✅ 초과 달성
창의적 기획 지원	보통 기여	낮은 기여	❌ 기대 미달
대용량 데이터 분석	높은 기여	중간 기여	△ 부분 달성

💡 실전 팁: AI 도입 효과를 측정할 때 '시간 절약'만 보지 마세요. 직원 만족도, 오류율 감소, 민원인 응답 품질 향상 등 다차원 지표를 함께 트래킹해야 진짜 가치가 보입니다.

🌍 안양시만의 이야기가 아니다: 국내외 공공 AI 도입 비교

안양시 사례는 국내에서 가장 앞서간 지자체 사례지만, 전 세계적으로 공공 AI 도입은 이미 빠르게 진행 중입니다.

해외 선진 사례: 에스토니아와 싱가포르

에스토니아는 이미 2023년부터 X-Road 플랫폼 기반으로 정부 전 부처 AI 통합 서비스를 운영 중입니다. 에스토니아 시민은 세금 신고, 의료 기록 접근, 투표까지 모두 디지털로 처리하고, AI가 각 단계에서 보조합니다. 에스토니아 정부는 2025년 보고서에서 행정 디지털화로 국가 GDP의 2%에 해당하는 업무 비용이 절감됐다고 밝혔습니다.

싱가포르는 'Pair(Public sector AI for the Rest)'라는 공공 AI 플랫폼을 2024년 출범시켜, 공무원 누구나 정부 내부 데이터와 연동된 AI 어시스턴트를 사용할 수 있게 했습니다. 싱가포르 디지털개발부(MDDI)는 2025년 기준 공무원의 68%가 주 3회 이상 AI 도구를 활용한다고 밝혔습니다.

국내 비교: 안양시는 어디쯤 있나

국내에서는 서울시가 2025년 '서울 AI 시티즌' 챗봇을 시민 대상으로 먼저 선보였지만, 이는 시민용 대민 서비스였고 내부 직원용 AI 업무비서는 아니었습니다. 부산시도 2025년 AI 기반 민원 자동분류 시스템을 도입했지만 전 직원 대상 업무비서 개념과는 다릅니다.

전 직원 대상 AI 업무비서를 공식 전면 도입한 사례로는 안양시가 국내 지자체 중 첫 번째 사례로 기록됩니다.

지역/국가	도입 방식	대상	핵심 성과
안양시(한국)	전 직원 AI 업무비서	내부 직원 1,800명	문서 작성 62% 단축
서울시(한국)	AI 민원 챗봇	시민 대상	민원 자동응답률 51%
싱가포르	공공 AI 플랫폼(Pair)	전 공무원	AI 활용률 68%
에스토니아	통합 디지털 정부	시민+공무원	GDP 2% 비용 절감

⚠️ 절대 이것만은 하지 마세요: 공공 AI 도입의 5가지 치명적 함정

안양시 도입 과정에서도, 다른 기관의 실패 사례에서도 반복적으로 나타나는 함정들이 있습니다. 따라 하려는 기관이라면 반드시 읽어야 할 섹션입니다.

함정 1: "일단 도입하고 나중에 교육"

가장 흔한 실수입니다. AI 툴을 먼저 구축해놓고 나중에 직원 교육을 진행하면, 초반 3개월 동안 직원들이 AI를 잘못 사용하거나 아예 사용하지 않는 상태로 방치됩니다. 안양시도 이 함정을 피하기 위해 도입 두 달 전부터 '부서별 AI 앰배서더'를 지정해 핵심 인력을 먼저 교육했습니다.

함정 2: AI 결과물을 검토 없이 그대로 사용

생성형 AI는 틀린 내용을 자신 있게 이야기하는 '할루시네이션(환각)' 문제가 있습니다. 공공 문서에서 AI가 생성한 잘못된 법령 조항이나 수치가 그대로 나가면 행정 오류로 이어질 수 있습니다. 반드시 사람이 최종 검토하는 워크플로우를 제도화해야 합니다. 안양시는 "AI 생성 결과는 반드시 담당자 확인 후 사용"을 내규로 명문화했습니다.

함정 3: 개인정보를 일반 AI에 입력

직원들이 편의를 위해 개인 ChatGPT 계정이나 검증되지 않은 AI 툴에 민원인 개인정보를 입력하는 '그림자 IT(Shadow IT)' 문제가 공공기관에서 심각합니다. 도입 초기부터 "어떤 AI 툴을 써도 되는지"에 대한 명확한 내규와 교육이 없으면, 보안사고의 씨앗이 됩니다.

함정 4: 성과 측정 없는 '도입 자체가 목적'

"우리도 AI 도입했습니다"라는 홍보 목적으로 도입하고 실제 활용률이나 효과를 측정하지 않는 경우가 많습니다. 도입 전부터 KPI(핵심성과지표)를 명확히 설정하고, 최소 분기별로 측정·피드백하는 사이클을 만들어야 합니다.

함정 5: 중간 관리자의 반발을 무시

AI 도입 시 가장 강한 저항이 나오는 계층은 실무자도 아니고 최고경영진도 아닌 중간 관리자입니다. "내 부서원이 AI를 쓰면 내가 감독을 못 하는 것 아닌가", "AI 결과물의 책임은 누가 지나"라는 불안감이 크거든요. 중간 관리자를 AI 도입의 '지지자'로 만드는 별도 소통·교육 전략이 필요합니다.

❓ 자주 묻는 질문

Q1: 안양시 AI 업무비서는 어떤 시스템을 기반으로 만들어졌나요?

A1: 안양시 AI 업무비서는 KT의 공공 특화 LLM(대형 언어 모델) 기반 플랫폼과 행정안전부의 공공 AI 표준 가이드라인을 결합해 구축됐습니다. 민감한 개인정보와 내부 행정 데이터는 온프레미스(내부 서버) 방식으로 처리하고, 일반 질의응답은 클라우드 API를 혼합 사용하는 하이브리드 구조를 채택했습니다. 이를 통해 보안성과 응답 속도를 동시에 확보했으며, 2025년 하반기 시범 운영 후 2026년 1월 전 직원 공식 확대 적용됐습니다.

Q2: 공무원들이 AI 업무비서로 실제로 가장 많이 하는 업무는 무엇인가요?

A2: 2026년 안양시 내부 활용 통계 기준으로 가장 많이 활용되는 기능 1위는 '공문서 초안 작성 및 교정'(전체 사용의 34%)이고, 2위는 '민원 응답 문구 생성'(28%), 3위는 '법령·조례 해석 질의'(19%), 4위는 '보고서 요약 및 번역'(12%), 기타 7% 순입니다. 특히 반복적 민원 답변 문구를 AI가 초안으로 잡아주고 담당자가 검토·수정하는 방식이 시간 절약 효과가 가장 크다고 직원들이 평가했습니다.

Q3: 공공기관에서 AI 업무비서를 도입할 때 보안 문제는 어떻게 해결하나요?

A3: 공공기관 AI 도입의 핵심 난관이 바로 보안입니다. 안양시의 경우 3단계 보안 레이어를 적용했습니다. 첫째, 개인정보·행정비밀이 포함된 데이터는 외부 클라우드 전송을 차단하고 내부망에서만 처리합니다. 둘째, 직원별 권한 등급에 따라 접근 가능한 데이터 범위를 구분합니다. 셋째, 모든 AI 대화 로그는 암호화 저장되며 감사 추적이 가능합니다. 행정안전부의 '공공부문 AI 활용 보안 가이드라인(2025년 개정판)'을 준수하는 것이 국내 지자체 도입의 공통 필수 요건입니다.

Q4: 중소 지자체도 안양시처럼 AI 업무비서를 도입할 수 있나요? 비용은 얼마나 드나요?

A4: 2026년 기준으로 중소 지자체도 도입이 가능하며, 비용은 도입 규모와 방식에 따라 천차만별입니다. 클라우드형 SaaS 방식은 직원 1인당 월 2만~5만 원 수준으로, 500명 규모 지자체 기준 연간 1억 2천만~3억 원대입니다. 반면 자체 서버를 구축하는 온프레미스 방식은 초기 구축비만 10억~30억 원이 들지만 장기 운영 비용은 낮습니다. 행정안전부가 2026년부터 지자체 AI 도입 지원 예산을 확대 편성했으므로, 국비 보조금 활용 시 실질 부담을 크게 줄일 수 있습니다.

Q5: AI 업무비서 도입 후 공무원 업무가 줄어드는 게 아니라 오히려 늘어날 수도 있다는 게 사실인가요?

A5: 맞습니다. 이를 '자동화 역설(Automation Paradox)'이라고 부릅니다. AI가 처리 속도를 높이면 민원 처리 건수 자체가 늘어나 담당자의 검토·확인 업무가 증가하는 현상이 실제로 나타납니다. 안양시에서도 도입 초기 3개월간 일부 부서에서 "확인할 AI 결과물이 더 늘었다"는 피드백이 나왔습니다. 이를 해결하려면 단순히 AI를 도입하는 것이 아니라, 어떤 업무를 AI에게 위임하고 어떤 업무에 사람이 집중할지 '역할 재설계(Role Redesign)'가 반드시 병행돼야 합니다.

📋 핵심 요약 테이블

항목	세부 내용	중요도
도입 시점	2026년 1월 전 직원 공식 확대 (2025년 7월~12월 시범)	⭐⭐⭐
대상 인원	안양시 전 직원 약 1,800명	⭐⭐⭐
핵심 기술	하이브리드 LLM + RAG(검색 증강 생성)	⭐⭐⭐
보안 방식	온프레미스+클라우드 혼합, 3단계 권한 분리	⭐⭐⭐
최대 성과	공문서 초안 작성 시간 62% 단축	⭐⭐⭐
법령 검색	45분 → 8분으로 단축 (82% 단축)	⭐⭐⭐
가장 많이 쓰는 기능	공문서 초안 작성(34%), 민원 답변 생성(28%)	⭐⭐
기대 이하 영역	창의적 기획 지원 (만족도 2.8/5.0)	⭐⭐
핵심 성공 요인	도입 전 앰배서더 교육 + RAG 데이터 정제	⭐⭐⭐
주요 함정	개인정보 외부 AI 입력, AI 검토 생략, 중간 관리자 소외	⭐⭐⭐
국비 지원 가능 여부	행안부 2026년 지자체 AI 도입 지원 예산 존재	⭐⭐
유사 해외 사례	싱가포르 Pair, 에스토니아 X-Road	⭐

🔮 이 실험이 가리키는 미래

안양시 사례를 한 문장으로 요약하면 이렇습니다. "기술은 준비됐다. 이제 조직이 따라잡을 차례다."

AI 업무비서는 이제 공상과학 이야기가 아닙니다. 공무원도 쓰고, 그 결과도 수치로 나오고 있습니다. 문서 작성 62% 단축, 법령 검색 82% 단축이라는 숫자가 현실이 됐습니다.

하지만 이 글에서 계속 강조했듯, 기술보다 중요한 건 설계와 문화입니다. 어떤 데이터를 넣을지, 어떤 업무에 쓸지, 어떤 규칙을 만들지, 직원들이 어떻게 느끼는지를 정교하게 설계해야 효과가 납니다. 안양시가 6개월 시범 운영을 거친 이유가 바로 그겁니다.

여러분이 속한 조직이 공공기관이든 민간 기업이든, 지금 이 순간 "AI 업무비서 써볼까?"를 고민하고 있다면 가장 먼저 이 질문을 던져보세요.

"우리 직원들이 하루에 가장 많은 시간을 쓰는 반복 업무는 무엇인가?"

그 답이 나오면, AI를 어디서부터 도입해야 하는지도 자연스럽게 나옵니다.

💬 댓글로 알려주세요!

여러분 조직에서는 AI 업무 도구를 쓰고 있나요? 쓰고 있다면 어떤 기능이 가장 유용했는지, 아직 도입 전이라면 가장 큰 걸림돌이 무엇인지 댓글로 남겨주세요. 특히 공무원 독자분들 — 실제 현장에서 느끼는 AI 업무비서의 현실을 들려주신다면 다음 글에 꼭 반영하겠습니다.

다음 글 예고: "민간 기업 직원도 쓸 수 있는 기업형 AI 업무비서 TOP 5 비교 (2026년 최신)" — 노션 AI, Microsoft Copilot, Notion AI, 카카오워크 AI, 클로바 등을 실제 사용 기준으로 비교해드립니다.

이 블로그 검색

AI키퍼