지자체별 AI 윤리 가이드라인 사례 비교 분석

인공지능(AI)이 일상 깊숙이 침투함에 따라 AI 기술의 오·남용을 방지하고 인간 중심의 기술 발전을 유도하기 위한 윤리 기준의 수립이 점점 더 중요해지고 있다. 특히 국가 차원의 윤리 가이드라인뿐 아니라, 지방자치단체들이 자체적인 AI 윤리 가이드라인을 수립하고 시행하는 움직임이 활발히 나타나고 있다는 점은 매우 흥미롭고 주목할 만하다. 단순한 법적 규제나 선언적인 지침을 넘어서, 지역 특성과 정책 방향에 따라 세부적인 원칙을 다르게 설정하고 있다는 점에서 각 지자체의 사례는 정책적 실험이자 실용적인 모델로 평가될 수 있다.

 

본 글에서는 국내 주요 지자체들이 수립한 AI 윤리 가이드라인들을 비교·분석하고, 그 특징과 시사점을 짚어보며, 향후 윤리적 AI 정책이 나아갈 방향에 대해 제안하고자 한다.

서울특별시 – 공공서비스 중심의 AI 윤리 체계 수립

서울시는 2023년 11월에 ‘서울시 인공지능 윤리 기준’을 공개하며, 지방정부 차원의 AI 윤리 가이드라인을 공식적으로 마련한 대표적인 사례이다. 서울시는 AI를 활용한 공공 서비스 제공이 증가함에 따라, 시민의 개인정보 보호와 알고리즘 투명성을 핵심 가치로 삼고 있다. 특히 "알고리즘 기반 행정 서비스는 반드시 설명할 수 있 비차별적이어야 한다"는 원칙은, 서울시가 실제로 적용 중인 여러 행정 서비스(예: 복지 대상자 선별, 긴급재난지원금 자동 분류 등)에 큰 영향을 미쳤다.

서울시는 ‘5대 윤리 원칙(인권 보장, 안전 확보, 투명성, 책임성, 포용성)’을 기준으로 삼고 있으며, 공공기관과 민간 협력체계 속에서 AI 시스템 개발 및 운영 시 이 원칙을 철저히 검토하도록 했다. 또한, 실제 사례로 서울시는 공공 AI 챗봇 도입 시, 사용자 로그 분석을 통해 차별적 응답 여부를 체크하고, 의도하지 않은 편향이 나타날 경우 바로 수정하는 시스템을 운영하고 있다.

부산광역시 – 시민참여형 윤리 프레임워크 실험

부산시는 기술 전문가 중심의 가이드라인 대신, 시민 의견 수렴을 바탕으로 한 AI 윤리 체계를 수립한 점에서 다른 지자체와 차별화된다. 부산광역시는 2024년 초, ‘부산형 AI 윤리 실천 전략’을 발표하면서, AI 윤리위원회를 구성하고 시민 토론회를 여러 차례 개최했다. 이 과정에서 일반 시민, 청소년, 어르신 등 다양한 계층이 직접 참여해 AI 기술이 자신들의 삶에 미치는 영향을 공유했고, 그 결과가 윤리 가이드라인에 반영되었다.

예를 들어, 고령층은 공공기관 챗봇의 응답 속도보다 이해하기 쉬운 언어 사용과 감정적 배려를 요구했고, 청소년 그룹은 데이터 수집의 목적 명시와 삭제 요청 기능 강화를 강조했다. 부산시는 이를 토대로 ‘시민 눈높이에 맞는 AI 원칙 7조’를 발표했으며, 이는 단순 기술의 활용이 아니라 시민의 인격과 존엄성을 중심으로 한 윤리적 기준임을 분명히 했다.

성남시 – 스타트업 중심 도시의 기술윤리 실험

성남시는 판교테크노밸리를 중심으로 수많은 AI 스타트업이 집결한 도시답게, 기업 윤리와 공공 가치의 균형에 초점을 맞춘 윤리 가이드라인을 발표했다. 성남시의 가이드라인은 ‘기업 자율 규범 기반 + 지자체 조정 역할 강화’라는 형태로 구성되어 있으며, AI를 개발·운영하는 스타트업들이 윤리 자체 진단 툴을 통해 스스로 점검할 수 있도록 했다.

성남시는 특히 AI가 사회적 약자에게 미칠 영향을 중요한 고려 요소로 삼고, 가이드라인의 모든 조항에 ‘영향평가’ 항목을 포함했다. 예를 들어, 노인 대상 헬스케어 챗봇 개발 시, 감정인지 오류로 인한 불안 유발 가능성에 대해 미리 체크리스트를 제공하고, 수정 방향까지 권고하는 형태다. 또한, 성남시는 기업과 공동으로 ‘AI 윤리 스튜디오’를 운영하며, 윤리적 설계 훈련, 문제 사례 연구, 정책 제안서를 주기적으로 공개하고 있다.

광주광역시 – 인권 중심 AI 윤리의 국제적 지향

광주광역시는 ‘인권 도시 광주’라는 정체성에 기반하여, AI 윤리 가이드라인을 국제 인권 기준과 연계하는 방향으로 설계했다. 광주시는 2023년 말 ‘광주 AI 인권 선언문’을 통해, AI 기술은 기본권을 침해해서는 안 되며, 차별과 혐오를 강화하는 방식으로 작동하지 않아야 한다는 명확한 선언을 했다.

광주시는 유네스코가 권고한 ‘신뢰할 수 있는 AI’ 원칙을 반영하여, AI 시스템의 설명 가능성, 데이터 윤리, 책임성 확보 등을 주요 항목으로 설정하고, 공공만 아니라 민간 개발사와도 협력하여 기술 개발 초기 단계부터 인권 영향 평가를 실시하고 있다. 실제로 광주시는 시청 내에서 도입된 얼굴인식 출입 시스템을 익명화 알고리즘으로 전환하였고, 정보 저장 기간을 최소화하는 기술적 조치를 병행함으로써 시민의 프라이버시 권리를 적극 보호하고 있다.

지자체의 AI 윤리 실험은 한국형 AI 규범 정착의 중요한 기반

지자체별 AI 윤리 가이드라인은 각기 다른 지역의 문화, 산업, 시민 참여 구조에 따라 다양하게 발전하고 있다. 서울은 행정 중심의 시스템화, 부산은 시민참여와 생활밀착형 윤리 실현, 성남은 기업과 공공의 균형을 통한 실용적 적용, 광주는 인권 중심의 철학적 접근이라는 특징을 지닌다. 이러한 사례들은 단지 지역 차원의 실험이 아닌, 한국형 AI 윤리 모델을 정립하기 위한 초석이 되고 있으며, 향후 국가 단위의 윤리 법제화 과정에서 귀중한 참고 자료가 될 것이다.

앞으로도 지자체들은 더 적극적으로 현장 중심의 윤리 원칙을 실험하고, 그 결과를 자료화하여 정책화와 제도화에 이바지할 필요가 있다. AI 기술이 인간의 삶을 바꾸는 속도만큼, 지방정부가 윤리적 방어막을 먼저 준비하는 행보는 기술의 방향성을 인간 중심으로 되돌리는 출발점이 될 것이다.