「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(이하 ‘인공지능기본법’)은 국민의 권익과 존엄성을 보호하고 국민의 삶의 질 향상과 국가경쟁력을 강화하기 위한 목적으로 제정되어 2026년 1월 22일 시행을 앞두고 있다. 관련하여, 과학기술정보통신부에서는 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 시행령 제정안」(이하 ‘시행령안’)을 제정하여 입법예고 중이다.
이에, 국가인권위원회(위원장 안창호, 이하 ‘인권위’)는 인공지능 정책과 제도 설계에 있어 기술적 안전성과 시스템의 신뢰성 확보뿐만 아니라, 인공지능의 개발·이용 전 과정에서 인간의 존엄성 등 인권을 실질적으로 보호할 수 있는 법적·제도적 기반을 함께 마련하는 것이 중요하다고 보아, 2025년 12월 12일 과학기술정보통신부 장관에게, 아래와 같이 시행령안을 보완할 필요가 있다는 의견을 제시하였다.
인권위는 시행령안과 관련하여 특히 고영향 인공지능 영역의 구체화, 구직자·환자 등 영향받는 자에 대한 보호 공백 해소, 인공지능기본법 적용 제외 대상의 재검토, 고성능 인공지능의 안전성 확보 기준 하향 조정, 안전성·신뢰성 확보 조치 관련 문서의 보관기간 연장, 인공지능개발사업자의 협력 강화, 고영향 인공지능 영향평가의 실효성 확보, 사실조사 예외 규정 삭제, 인권 전문가 참여 확대 등이 필요하다고 판단하였다. 세부적인 의견은 아래와 같다.
첫째, 인공지능기본법 제2조는 대통령령으로 ‘고영향 인공지능’의 영역을 정하도록 규정하고 있으나, 시행령안에는 해당 내용이 포함되어 있지 않다. 고영향 인공지능과 관련한 책무를 부여받은 인공지능사업자가 개발 초기 단계부터 법적 기준과 책임 범위를 명확히 예측할 수 있도록, EU AI법 부속서 1 및 부속서 3을 참고하여 고영향 인공지능 영역을 시행령안에 구체적으로 규정하는 것이 바람직하다. 아울러, 금지 대상 인공지능에 관한 법적 규정이 마련되기 전까지는, EU AI법 제5조에서 금지하고 있는 인공지능 유형을 참고하여 잠재의식 조작 등 인간의 존엄성을 본질적으로 침해할 우려가 있는 인공지능을 시행령상 ‘고영향 인공지능’ 영역에 포함해 관리할 필요가 있다.
둘째, 인공지능기본법 제31조 및 제34조는 인공지능사업자에게 ‘이용자’ 보호조치를 이행할 책무를 부여하고 있다. 그런데 「고영향 인공지능 판단 가이드라인(안)」 등에서는 채용회사, 병원, 금융기관 등을 ‘이용자’로, 구직자·환자·대출 신청자 등을 ‘영향받는 자’로 규정하고 있다. 이로 인해 실제로 기본권에 중대한 영향을 받는 구직자·환자·대출 신청자 등에 대한 보호조치가 법령상 공백으로 남아 있으므로, 시행령안과 해당 가이드라인을 보완할 필요가 있다.
셋째, 인공지능기본법 제4조는 ‘국방 또는 국가안보 목적’으로만 개발·이용 되는 인공지능에 한하여 법 적용을 제외하도록 규정하고 있다. 그러나 시행령안 제2조에는 국방 또는 국가안보 목적에 한정되었다고 보기 어려운 ‘이중 용도(dual-use)’ 성격의 업무까지 포함되어 있어, 법률의 위임범위에서 벗어나지 않도록 법 적용 제외 대상 인공지능을 제한할 필요가 있다. 특히, 국방 또는 국가안보 목적 인공지능은 국가 안전을 위한 수단인 동시에, 생명권 침해 등 가장 심각한 인권침해가 우려되는 영역으로, 법 적용 대상 인공지능이 자의적이고 광범위하게 지정되지 않도록 국가정보원장, 국방부장관, 경찰청장이 지정하도록 하는 방식이 아니라 국가인공지능위원회의 심의를 거쳐 지정하도록 하는 것이 바람직하다.
넷째, 시행령안 제23조는 인공지능 안전성 확보 의무의 적용 기준을 누적 연산량 10의 26승 이상으로 정하고 있어, 대부분의 고성능 인공지능시스템이 규제 대상에서 제외되고 있다. 이로 인해 안전성 확보 의무가 형식화될 우려가 있으므로, 적용 기준을 10의 25승 이상으로 하향 조정하여 국민의 기본권을 보다 두텁게 보호할 필요가 있다.
다섯째, 시행령안 제26조는 고영향 인공지능의 안전성과 신뢰성 확보 조치와 관련한 문서 보관기간을 5년으로 정하고 있어, 분쟁 발생 시 책임 규명에 필요한 자료 확보를 어렵게 할 수 있으므로, 문서 보관기간을 10년으로 연장할 필요가 있다. 아울러 인공지능이용사업자가 고영향 인공지능 관련 책무를 원활히 이행할 수 있도록, 인공지능개발사업자의 ‘협력 노력 의무’를 ‘협력 의무’로 수정하는 것이 바람직하다.
여섯째, 시행령안 제27조에는 고영향 인공지능이 의도된 목적에 따라 배치·사용되는지를 확인하고, ‘신규’ 인공지능 제품 또는 서비스 제공 전뿐만 아니라, ‘중대한 기능 변경’ 전에도 영향평가를 실시하도록 하며, 국가기관 등이 영향평가 결과를 확인할 수 있도록 인공지능사업자에게 문서와 자료를 요청할 수 있는 근거를 마련할 필요가 있다.
일곱째, 인공지능기본법 제40조에서 이미 사실조사 처분에 대한 재량을 인정하고 있으므로, 법률의 위임 없이 사실조사 예외 사유를 규정하고 있는 시행령안 제31조는 삭제하는 것이 바람직하다.
여덟째, 국가인공지능위원회 분과위원회 및 특별위원회 구성 시 인권전문가가 산업계·기술계 전문가와 균형 있게 포함될 수 있도록 규정하고, 고영향 인공지능 영향평가 기준 및 가이드라인 수립·개정 과정에 인권위와 인권 전문가가 참여할 수 있는 근거를 마련할 필요가 있다.
정부는 인공지능 3대 강국으로의 도약을 목표로 공공·경제·사회 전 분야에서 인공지능 전환을 속도감 있게 추진하고 있다. 인공지능 기술의 발전과 확산은 국가경쟁력 제고와 삶의 질 향상에 기여할 수 있으나, 동시에 인공지능이 제공한 분석이나 판단 결과에 오류 또는 편향이 존재하고, 이러한 결과가 실제 의사결정에 활용될 경우, 그 영향은 단순한 기술적 문제를 넘어 헌법이 보장하는 인간으로서의 존엄과 가치, 평등권, 사생활의 비밀과 자유 등을 직접적으로 침해할 위험이 있다.
이에 인권위는 인공지능 관련 법령과 정책 수립 과정에서 인간으로서의 존엄과 가치 등 인권이 보호될 수 있도록, 이번 의견이 향후 입법 및 정책 보완 과정에서 적극 반영되기를 기대한다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}
