AI 기술 발전 속 권력 불균형 심화
인공지능(AI)이 불과 몇 년 전만 해도 공상과학 소설에서나 등장할 법한 기술처럼 여겨졌으나, 오늘날 우리의 일상 거의 모든 면에 깊이 침투하고 있습니다. AI 기반 번역 앱을 통해 외국어로 소통하고, AI 분석 도구로 건강 상태를 점검하며, 금융 투자까지 AI가 대신하는 시대.
이렇게 AI가 혁신의 촉매제 역할을 하고 있지만, 이는 동시에 데이터와 권력의 새로운 균형점을 모색해야 할 필요성을 제기합니다. 현재 AI 기술과 데이터 수집의 중심에 있는 글로벌 거대 기술 기업들의 영향력은 날로 확대되고 있습니다.
이들 기업은 AI를 활용해 인간 활동을 정교하게 분석하며, 마케팅부터 정치적 메시지 전달까지 다양한 영역에서 막대한 권력을 행사하고 있습니다. 이러한 현상은 기존의 권력 불균형을 더 심화시키는 동시에, 소수 핵심 기업에 의한 기술적 독점을 우려하게 만듭니다. 크리에이티브 커먼즈(Creative Commons) 블로그에 게재된 'AI 시대의 인프라: 델리 AI 임팩트 서밋의 성찰'에서 Anna Tumadóttir와 Rebecca Ross는 이러한 우려를 구체적으로 제기합니다.
광고
델리 AI 임팩트 서밋은 AI 기술의 발전이 사회에 미치는 영향을 다각도로 논의한 국제 회의로, 특히 개발도상국과 선진국 간의 AI 역량 격차, 데이터 주권의 중요성, 그리고 AI 혜택의 공정한 분배 방안이 집중적으로 다뤄졌습니다. Tumadóttir와 Ross는 AI 기술이 분명히 혁신적인 잠재력을 가지고 있지만, 현재의 AI 개발과 배포 구조가 기존의 권력 불균형을 심화시킬 위험이 크다고 경고합니다.
그들은 특히 AI가 데이터를 연료 삼아 운영되므로, 데이터 관리와 주권에 대한 법적, 윤리적 접근이 충분히 마련되지 않을 경우 현재의 권력 구조는 더욱 비대칭적으로 변화할 가능성이 크다고 지적합니다. 이러한 분석은 글로벌 기업들의 데이터 독점 문제가 단순히 기술적 문제를 넘어 사회적, 정치적 함의까지 포함하고 있음을 보여줍니다.
델리 서밋에서 제기된 핵심 질문 중 하나는 'AI 역량의 독점을 어떻게 막고, 그 혜택이 널리 분배될 수 있도록 할 것인가'였습니다.
광고
현재 AI 기술 개발은 주로 막대한 자본과 데이터를 보유한 소수의 기업과 국가에 집중되어 있으며, 이는 기술적 격차를 넘어 경제적, 정치적 격차로 이어지고 있습니다. 개발도상국은 AI 기술을 활용할 인프라와 전문 인력이 부족하여 AI 혁명의 혜택에서 소외될 위험에 처해 있습니다.
AI 기술 발전이 낳은 기회와 도전 과제 속에서 데이터 거버넌스, 특히 민주적 접근 방식은 공공의 관심을 끌고 있습니다. 민주적 접근 방식이란 데이터를 특정 기업이나 국가가 독점하지 못하도록 하고, 데이터를 다양하게 공유하며 활용되도록 보장하는 것을 의미합니다. 이를 통해 모든 주체가 공정한 환경에서 기술적 혜택을 누릴 수 있는 길이 열립니다.
Tumadóttir와 Ross는 델리 서밋의 논의를 바탕으로 진정으로 공공의 이익을 위한 AI를 구현하기 위해서는 개방성(openness), 주체성(agency), 형평성(equity)을 보장하는 핵심적인 개입과 원칙이 필요하다고 강조합니다.
광고
개방성은 AI 시스템의 작동 방식과 데이터 사용에 대한 투명성을 의미하며, 주체성은 개인과 공동체가 자신의 데이터에 대한 통제권을 가지는 것을 뜻합니다. 형평성은 AI 기술의 혜택이 특정 집단에만 집중되지 않고 사회 전반에 공정하게 분배되어야 함을 강조합니다. 이러한 원칙들을 실현하기 위해서는 공유 인프라(shared infrastructure)와 협력적 접근(collaborative approach)이 필수적입니다.
공유 인프라란 AI 개발과 활용에 필요한 데이터, 컴퓨팅 자원, 알고리즘 등을 공공재로 인식하고, 이를 다양한 주체들이 접근하고 활용할 수 있도록 개방하는 것을 의미합니다. 협력적 접근은 정부, 학계, 민간 기업, 시민사회가 함께 AI 거버넌스를 설계하고 실행하는 것을 포함합니다. 국제적으로 AI 거버넌스에 대한 논의는 빠르게 진행되고 있습니다.
유럽연합은 AI 시스템의 위험도에 따라 규제를 차등화하는 AI 법안을 추진하고 있으며, 데이터 투명성과 개인정보 보호를 강화하는 정책을 시행하고 있습니다.
광고
유네스코는 2021년 AI 윤리 권고안을 채택하여 인권, 투명성, 책임성을 AI 개발의 핵심 원칙으로 제시했습니다. 이러한 국제적 움직임은 AI 기술이 인류 전체의 이익을 위해 발전해야 한다는 공감대가 형성되고 있음을 보여줍니다.
공공의 이익을 위한 데이터 거버넌스의 필요성
그렇다면 한국은 어떨까요? 한국은 AI 기술 개발과 활용에서 상당한 성과를 거두었지만, AI 거버넌스와 데이터 주권에 대한 체계적인 정책 프레임워크는 아직 충분히 정교화되지 않았습니다. AI 시스템이나 데이터 관리에서 공공의 이익을 보호할 구체적인 법률과 제도적 장치가 부족한 상태입니다.
특히 데이터 주권 측면에서 한국은 글로벌 플랫폼 기업들의 데이터 수집과 활용에 대한 통제력이 제한적이며, 국내에서 생성된 데이터가 해외로 유출되어 활용되는 구조에 대한 우려가 제기되고 있습니다. 한국의 AI 정책은 주로 기술 개발과 산업 육성에 초점이 맞춰져 있으며, 데이터 윤리, 투명성, 공정성과 같은 가치는 상대적으로 부차적으로 다뤄지고 있습니다.
광고
물론 최근 개인정보 보호법 개정과 데이터 3법 시행 등을 통해 데이터 활용과 보호의 균형을 모색하고 있지만, AI 시대의 복잡한 도전 과제에 대응하기 위해서는 더 포괄적이고 체계적인 접근이 필요합니다. 세계 각국이 AI 규제와 데이터 주권을 확보하기 위해 경쟁적으로 정책을 내놓고 있는 가운데, AI 거버넌스는 한국 사회와 정책에도 중대한 변화를 가져올 전망입니다.
우선, 데이터 공유와 협력을 촉진하는 플랫폼을 만든다면 기술 혁신과 경제적 이익이 거대 기업에만 집중되지 않고, 중소기업과 개개인까지도 확산될 수 있을 것입니다. 델리 서밋에서 논의된 공유 인프라 모델은 한국에도 시사하는 바가 큽니다.
예를 들어, 공공 데이터를 개방하고 이를 기반으로 다양한 AI 애플리케이션을 개발할 수 있는 환경을 조성한다면, 스타트업과 중소기업도 AI 기술 경쟁에 참여할 수 있는 기회를 얻게 됩니다. 현재 한국은 공공데이터포털을 통해 일정 수준의 데이터를 개방하고 있지만, 데이터의 질과 활용 가능성 측면에서 개선의 여지가 많습니다. 정부와 민간의 협력도 중요한 잠재력을 가지고 있습니다.
다양한 국내 기업 간의 연합을 통해 데이터를 공유하고 분석할 수 있는 생태계를 구축한다면, 한국은 단기간에 AI 기술 선도국으로 발돋움할 수 있는 가능성을 품고 있습니다. 특히 한국은 높은 인터넷 보급률과 디지털 인프라, 우수한 ICT 인력을 보유하고 있어 AI 거버넌스를 효과적으로 실행할 수 있는 기반이 마련되어 있습니다. AI 거버넌스가 단순히 법적 규제에 그치는 것이 아니라 윤리적 틀을 갖추는 방향으로 이어져야 한다는 점도 중요합니다.
AI 시스템이 점점 우리 생활에 깊이 들어오고 있는 만큼, 윤리와 기술을 통합적으로 고민해야 합니다. 데이터 투명성과 개인 사생활 보호는 AI 거버넌스의 최우선 과제가 되어야 하며, AI 시스템의 결정 과정이 설명 가능하고(explainable) 검증 가능해야(verifiable) 합니다. 또한 AI 거버넌스는 사회적 합의를 바탕으로 구축되어야 합니다.
AI 기술이 가져올 변화는 사회 전반에 영향을 미치므로, 정책 결정 과정에 다양한 이해관계자들의 참여가 보장되어야 합니다. 시민사회, 학계, 산업계, 정부가 함께 AI의 발전 방향과 규제 원칙을 논의하고 합의하는 과정이 필요합니다. Tumadóttir와 Ross가 강조한 '주체성' 개념은 이러한 맥락에서 특히 중요합니다.
개인과 공동체가 자신의 데이터에 대한 통제권을 가지고, AI 시스템이 자신에게 어떻게 적용되는지 이해하고 이의를 제기할 수 있어야 합니다. 이는 단순히 개인정보 보호를 넘어, 디지털 시대의 기본적인 권리로 인식되어야 합니다.
한국 사회와 정책, AI 거버넌스가 가져올 변화
미래 전망과 시사점 AI는 앞으로 의료, 교육, 교통 등 여러 분야를 변화시킬 것입니다.
하지만 이것이 단지 기술 발전으로 끝나는 문제가 아님을 우리는 명심해야 합니다. AI 거버넌스는 한국이 국제 경쟁력을 유지하면서 동시에 공공의 이익을 보호할 수 있는 방법을 제공할 것입니다. 특히 AI를 '공공재'로 여기고, 데이터 윤리에 기반한 정책을 추진한다면 경제적 성과와 더불어 긍정적인 사회 변화를 이끌어낼 수도 있습니다.
델리 AI 임팩트 서밋에서 제기된 핵심 메시지는 AI의 혜택이 소수에게 집중되지 않고 널리 분배되어야 한다는 것입니다. 이는 단순히 윤리적 당위성을 넘어, 지속 가능한 AI 생태계를 구축하기 위한 실질적인 필요조건입니다. AI 기술의 발전이 사회적 불평등을 심화시킨다면, 장기적으로 기술 발전 자체에 대한 사회적 저항과 불신이 커질 수 있습니다.
미래의 AI 기술은 지금보다 더 고도화됨에 따라, 정보 불균형과 디지털 격차의 문제는 더욱 심화될 가능성이 있습니다. 이는 곧 고도화된 AI 시스템들이 소수의 데이터 소유자들에게만 유리하게 작용할지도 모른다는 의미입니다. 이를 방지하기 위해 한국은 정부·학계·민간의 협력이 필요하며, 데이터 공유와 관리의 투명성을 제고할 과제들이 놓여 있습니다.
한국이 AI 거버넌스 분야에서 선도적인 역할을 하기 위해서는 몇 가지 구체적인 조치가 필요합니다. 첫째, AI 윤리 원칙을 법제화하고 실행 가능한 가이드라인을 마련해야 합니다. 둘째, 공공 데이터의 품질을 높이고 접근성을 개선하여 AI 개발의 기반을 강화해야 합니다.
셋째, AI 시스템의 투명성과 설명 가능성을 확보하기 위한 기술적, 제도적 장치를 마련해야 합니다. 넷째, 국제적인 AI 거버넌스 논의에 적극적으로 참여하여 한국의 관점을 반영하고 국제 협력을 강화해야 합니다.
또한 AI 교육과 인식 제고도 중요합니다. AI 기술이 사회에 미치는 영향을 이해하고, 데이터 주권과 디지털 권리의 중요성을 인식하는 시민들이 늘어날 때, 진정한 의미의 민주적 AI 거버넌스가 가능해집니다. 교육 시스템에 AI 리터러시를 통합하고, 시민들이 AI 정책 논의에 참여할 수 있는 채널을 마련하는 것이 필요합니다.
결국 AI를 사회적으로 더 공정하고 이로운 방향으로 활용하려는 노력은 단순한 기술의 문제가 아니라, 우리 모두가 함께 만들어가야 할 미래의 문제입니다. AI와 데이터 관련 논의는 이미 시작되었고, 이제 남은 건 얼마나 빠르고 효과적으로 우리가 이 논의에 대응할 것인지에 대한 질문입니다. 델리 AI 임팩트 서밋이 제시한 개방성, 주체성, 형평성의 원칙은 한국이 AI 시대를 준비하는 데 있어 중요한 나침반이 될 수 있습니다.
한국이 기술 혁신과 사회적 가치를 균형 있게 추구하는 AI 거버넌스 모델을 구축한다면, 이는 다른 국가들에게도 의미 있는 선례가 될 것입니다.
김도현 기자
광고
[참고자료]
creativecommons.org
){kind=small}
){kind=small}
){kind=small}
){kind=small}
