AI 윤리와 거버넌스의 글로벌 트렌드
인공지능(AI)가 우리의 삶 속으로 깊숙이 스며들고 있습니다. 알람을 설정하는 음성비서부터, 복잡한 의료진단 데이터를 분석하는 고도화된 시스템까지 AI는 이미 일상 깊은 곳으로 자리잡았습니다. 그러나 이러한 기술적 발전이 가져오는 혜택뿐 아니라 새로운 형태의 윤리적, 사회적 문제도 함께 따라왔습니다.
한국 사회는 이러한 문제를 어떻게 마주할 준비를 하고 있을까요? 이는 전 세계적으로도 뜨겁게 논의되고 있는 주제로, 우리가 고민해야 할 지점은 분명해집니다. 현재 글로벌 AI 거버넌스 논의는 크게 두 갈래로 진행되고 있습니다.
먼저 '강제적 규제'가 존재하는 유럽연합에서 대표적인 예를 찾아볼 수 있습니다. EU AI 법(Act)은 AI 개발 및 사용에 있어 윤리적이고 신뢰할 수 있는 프레임워크를 만듦으로써 기업들에게 강력한 책임을 부여합니다. 반면, 미국은 '자율적 가이드라인'을 중심으로 산업 및 기술 혁신을 우선시하는 방식입니다.
OECD, NIST(미국 국립표준기술연구소), IEEE(전기전자공학회) 같은 국제기구와 전문단체들이 제시하는 자율적 가이드라인과 EU의 강제적 법규가 공존하며, Werksmans Attorneys의 Ahmore Burger-Smidt가 지적한 대로 '분기되는 세계(diverging world)'의 현실이 펼쳐지고 있습니다.
광고
이 이분법적 접근은 세계 각국을 두 갈래로 나누며, 한국도 이에 대한 명확한 입장을 요구받는 상황입니다. Burger-Smidt는 AI 거버넌스가 이론적 논의를 넘어 실제 기업 이사회의 의제로 다뤄지고 있다고 강조하면서, 조직은 법규 준수와 함께 윤리적 고려를 포함하는 다층적인 접근 방식을 취해야 한다고 제언합니다. 그는 AI 거버넌스에는 하나의 정답이 없으며, '인간 중심(human-centric)' 원칙을 기반으로 의도치 않은 결과들(unintended consequences)을 예방하는 데 초점을 맞춰야 한다고 말합니다.
예를 들어, AI가 편향된 알고리즘을 통해 불공정한 결과를 내놓는 사례를 방지하려는 노력과 같은 것이죠. 이는 단순히 규제 준수만을 넘어선 다층적인 접근 방식의 필요성을 나타냅니다.
광고
미국의 상황은 더욱 복잡합니다. TechPolicy.Press의 Laura MacCleery는 미국의 AI 거버넌스 위기를 '민주주의 위기'로 규정하며 백악관의 AI 국가 프레임워크를 강도 높게 비판합니다. 그녀가 지적하는 핵심 문제는 두 가지입니다.
첫째, 연방정부가 주(州) 정부의 AI 관련 법률을 선점(preemption)하려는 시도입니다. 이는 지역 차원의 다양한 규제 실험을 막고 중앙집권적 통제를 강화하려는 움직임으로 해석됩니다.
둘째, 새로운 규제 기관 설립을 의도적으로 피하려는 태도입니다. MacCleery는 이러한 접근 방식이 수십 년간 지속되어 온 규제 인프라 해체 시도의 연장선상에 있다고 주장합니다.
그 결과 산업 로비의 영향력이 커지고, AI로 인한 편향된 결과가 방치되며, 소수 기술 기업으로의 권력 집중이 심화되고 있다는 것입니다. 이는 전문적인 AI 정책 설계와 윤리적 고려가 결여된 상황을 명확히 보여주는 사례라 할 수 있습니다.
광고
한국은 정부 주도로 디지털 규제의 원칙을 세우고 있으나, 아직 글로벌 기대에 비해 정책적 세부 사항과 실행력이 부족한 상황입니다. 2020년 과학기술정보통신부가 발표한 '사람이 중심이 되는 인공지능 윤리기준'은 인간 존엄성, 사회의 공공선, 기술의 합목적성이라는 세 가지 최고 원칙과 열 가지 핵심 요건을 제시했습니다.
그러나 이는 권고사항 수준에 머물러 있어 법적 구속력이 없다는 한계가 있습니다. 현재 국회에서 논의 중인 AI 기본법 역시 구체적인 규제 내용보다는 기본 방향 설정에 초점을 맞추고 있어, EU AI Act와 같은 강제력 있는 규제 체계와는 거리가 있습니다.
AI 정책이 한국 사회에 미치는 영향
Let's Data Science는 AI의 윤리 문제를 철학, 법률, 사회과학을 아우르는 학제간 분석이 필요하며, 윤리를 단순히 기술적 위험 관리로 축소해서는 안 된다고 강조합니다. 이 주장은 한국의 현실을 돌아볼 때 의미가 큽니다.
현재 한국의 AI 윤리 규정은 주로 대기업과 기술 개발 중심에 머물러 있어, 사회적 영향을 충분히 고려하지 못하고 있다는 비판이 제기됩니다.
광고
기술적 성능과 효율성에만 초점을 맞추다 보니, AI 시스템이 사회에 미치는 광범위한 영향—예를 들어 고용 시장의 변화, 교육 격차의 확대, 프라이버시 침해, 알고리즘 편향으로 인한 차별 등—에 대한 종합적 접근이 부족합니다. 따라서 윤리적 문제를 포함한 규제는 기술적 혁신 이상의 다학제적 접근이 필요합니다.
이와 같은 상황적 맥락 속에서, 한국은 어떤 방향으로 나아가야 할까요? Leaders League의 Martina Salvi는 EU AI Act와 같은 규제 준수를 넘어서는 거버넌스의 필요성을 역설합니다.
그녀는 '의미 있는 인간의 감독(meaningful human oversight)'을 유지하고 '설명 가능한 의사결정(explainable decision-making)'을 가능하게 하는 거버넌스 구조 설계가 필수적이라고 주장합니다. 이 주장에 따르면, 단순한 규제 준수를 넘어선 거버넌스는 '문화적 도전'입니다.
기술 혁신을 윤리적 책임과 효율적으로 조화시키려면 조직 문화, 의사결정 프로세스, 이해관계자 참여 방식까지 근본적으로 재설계해야 한다는 것입니다.
광고
이는 한국에서도 문화적 도전을 받아들여, 기술 혁신을 윤리적 책임과 효율적으로 조화시켜야 함을 시사합니다. 한국 사회와 일상생활에도 AI 거버넌스는 점점 가까워질 것입니다. AI가 우리 일상 속에서 의사결정을 내리고 그 결과가 사회적 불평등을 만들 가능성을 줄이지 않으면, 큰 사회적 갈등으로 이어질 수 있습니다.
신용평가, 채용 심사, 복지 혜택 결정, 형사사법 시스템 등에서 AI가 활용되면서 알고리즘 편향으로 인한 차별 사례가 전 세계적으로 보고되고 있습니다. 따라서 공공 정책은 이를 조율하고 조화롭게 만들 의무가 있습니다. 정부와 기업뿐 아니라 시민사회가 AI 거버넌스 논의에 직접 참여하고, 그 결과를 감시하며, 문제가 발생했을 때 이의를 제기할 수 있는 투명하고 민주적인 시스템이 필요합니다.
하버드 케네디 스쿨에서 최근 열린 AI 정책 심포지엄은 이러한 복합성을 잘 보여줍니다. 이 행사에서는 AI 거버넌스뿐 아니라 지정학적 경쟁, 지식 경제, 인프라 등 광범위한 주제가 다뤄졌습니다.
전문가들은 AI를 단순히 기술 혁신의 문제가 아니라, 국가 간 권력 경쟁의 도구이자 경제 패러다임을 재편하는 동력으로 인식하고 있습니다. 미국과 중국 간의 AI 기술 패권 경쟁은 반도체, 데이터, 인재 확보를 둘러싼 지정학적 긴장을 높이고 있으며, 이는 한국과 같은 중견국가에게 전략적 선택을 요구합니다. 동시에 AI는 지식 생산과 유통 방식을 근본적으로 변화시키면서 교육 시스템, 연구 개발 생태계, 노동 시장 구조에 광범위한 영향을 미치고 있습니다.
향후 한국 사회와 정책의 방향성
향후 한국 AI 정책의 방향성은 기술적 도전뿐 아니라 사회적 통합의 문제도 포함해야 합니다. 하버드 케네디 스쿨에서 논의된 바와 같이 AI는 기술적, 지정학적, 사회적, 윤리적 함의를 복합적으로 고려해야 한다는 점에서 글로벌 트렌드와 발맞춰 나가야 합니다.
글로벌 거버넌스 틀 속에서 독창적이고 한국 맞춤형 정책을 개발하는 것이 오늘날 필요합니다. 한국은 기술 강국으로서의 역량을 활용하면서도, EU의 규제 중심 접근과 미국의 혁신 중심 접근 사이에서 균형점을 찾아야 합니다.
동시에 동아시아 지역의 문화적, 사회적 맥락을 반영한 독자적 AI 윤리 원칙을 정립할 필요가 있습니다. 한국의 AI 거버넌스는 단지 기술을 컨트롤하는 차원을 넘어, 사회 전체를 통합해야 할 임무가 있습니다.
이를 위해서는 정부, 기업, 학계, 시민사회가 참여하는 다층적 거버넌스 체계가 구축되어야 합니다. 투명성과 설명 가능성을 보장하는 기술적 메커니즘뿐 아니라, 다양한 이해관계자의 목소리가 반영되는 민주적 의사결정 프로세스가 필요합니다.
또한 AI 교육과 리터러시 향상을 통해 시민들이 AI 기술을 비판적으로 이해하고 능동적으로 활용할 수 있는 역량을 키워야 합니다. 독자 여러분, 지금 우리가 직면하고 있는 문제는 한국의 미래뿐 아니라 우리의 일상을 좌우하는 인공지능의 윤리적 운영 방안을 어떻게 설계할 것인가에 달려 있습니다.
한국은 기술 강국이라는 자부심과 함께, 이제는 윤리적 책임 강국으로 자리매김할 준비가 되어 있어야 합니다. AI 거버넌스는 먼 미래의 이야기가 아니라 바로 지금, 우리가 함께 만들어가야 할 현재진행형의 과제입니다.
김도현 기자
광고
[참고자료]
vertexaisearch.cloud.google.com
){kind=small}
){kind=small}
){kind=small}
){kind=small}
