서울시가 인공지능 기술을 행정 전반에 활용하는 과정에서 시민 신뢰를 확보하기 위한 기준으로 ‘서울형 AI 윤리’를 제정했다. 시는 해당 지침을 2026년 1월부터 공공행정 전 분야에 적용해, 책임 있고 투명한 인공지능 행정 체계를 구축한다는 방침이다.
인공지능 기술은 행정의 효율성을 높이는 도구로 빠르게 확산되고 있고, 동시에 기술 활용 과정에서 발생할 수 있는 책임 소재와 공정성 문제에 대한 우려도 커지고 있는 가운데 서울시는 이러한 환경 변화를 반영해 ‘서울특별시 인공지능 활용 윤리 지침’을 마련하고, 인공지능 행정의 기준을 제도화했다.
이번 지침은 인공지능을 단순한 자동화 수단이 아닌, 시민의 권리와 안전을 전제로 활용해야 할 공공 수단으로 규정했다는 점에서 의미가 있으며, 서울시는 AI 도입 여부를 검토할 때 행정 효율보다 “시민의 삶의 질 향상과 공공 목적에 부합하는지”를 우선 판단하도록 했다.
지침의 핵심은 공공성, 공정성, 투명성, 책임성, 안전성 등 다섯 가지 원칙으로 구성되어 있으며, 우선 공정성 원칙을 통해 인공지능 기반 행정 서비스가 특정 계층이나 집단에 불리하게 작용하지 않도록 알고리즘 편향을 최소화하도록 했다. 이는 AI 행정이 시민 모두에게 동등하게 작동해야 한다는 기준을 명확히 한 것이다.
투명성 원칙도 강조됐다. 서울시는 인공지능이 행정 과정에서 어떤 역할을 수행했는지, 판단의 근거가 무엇인지 시민이 이해할 수 있도록 설명 가능성을 확보하도록 하여 결과만 제시하는 방식에서 벗어나, AI 활용 과정 전반을 공개함으로써 행정 신뢰도를 높이겠다는 취지다.
책임성에 대한 기준 역시 분명히 했다. 지침은 인공지능이 의사결정을 보조하는 도구일 뿐, 최종 판단과 책임은 행정을 담당하는 인간에게 있다는 점을 명시함으로써 AI 판단 오류나 시스템 문제 발생 시 책임 주체를 명확히 하기 위한 장치로 해석된다.
안전성 원칙에서는 개인정보 보호와 정보 보안이 주요 기준으로 제시됐다. 서울시는 인공지능 행정 서비스 이용 과정에서 시민 정보가 침해되지 않도록 관리 체계를 강화하고, 안정적인 시스템 운영을 통해 신뢰할 수 있는 이용 환경을 조성한다는 방침이다.
이번 지침은 2025년 제정된 ‘서울특별시 인공지능 윤리 기반 조성에 관한 조례’에 따른 후속 조치로, 국가 차원의 ‘인공지능 기본법’과 행정안전부의 공공부문 인공지능 윤리 원칙을 반영하되, 서울시 행정 환경에 맞게 구체화했다는 점이 특징이다.
적용 범위도 보다 넓어져서 서울시 본청과 자치구는 물론, 투자·출연기관과 위탁·용역 수행기관까지 포함해 행정업무 과정에서 인공지능을 활용하는 모든 주체에 지침을 적용하며, 서울시 권역 외에서 이뤄진 AI 활용이라 하더라도, 그 결과가 서울시 행정이나 시민 권익에 영향을 미칠 경우 지침을 따르도록 했다.
지침 수립 과정에서는 전문기관과의 협력이 이뤄졌다. 서울시는 관련 타당성 연구를 진행하며 다양한 의견을 수렴했고, 이를 토대로 최종안을 확정했으며, 향후에도 기술 발전과 정책 환경 변화에 따라 지침을 지속적으로 보완해 나갈 계획이다.
강옥현 서울시 디지털도시국장은 이번 지침과 관련해 “인공지능이 행정의 일상적 도구가 되는 시대에, 시민 권리를 지키며 기술을 책임 있게 활용하기 위한 기준”이라며 “윤리와 신뢰를 기반으로 한 AI 행정을 통해 서울이 선도 도시로 나아가겠다”고 말했다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}
