AI 기술의 발전과 윤리적 성찰
2026년 6월 10일, 세계적인 인공지능(AI) 윤리 전문가이자 신학자인 파올로 베난티(Paolo Benanti) 신부가 서울 서초구 가톨릭대학교 성의교정에서 열린 '생명의 신비상' 시상식에 참석했다. 천주교 서울대교구가 수여하는 이 상의 인문사회과학 분야 수상자로 선정된 베난티 신부는 시상식 자리에서 AI 시대의 인간 책임을 정면으로 거론했다. 그는 "구석기 시대부터 기술은 잘 쓰면 도구가 되고, 잘못 쓰면 무기가 됐다.
기술에는 '질서'와 '권력'이라는 개념이 반드시 포함된다. AI 시대 기술의 핵심은 '알고리즘'이며, 알고리즘을 짤 때 인간이 개입해 질서를 만들고 권력을 행사해 공동선(共同善)을 위해 사용되도록 해야 한다"고 역설했다. 베난티 신부는 이탈리아 사피엔차 대학교에서 기계공학을 전공한 뒤 프란치스코 수도회에 입회해 사제가 됐다.
현재 교황청립 그레고리오 대학교 윤리신학 및 기술 윤리 교수로 재직 중이며, 프란치스코 교황의 AI 윤리 담당 고문을 지낸 바 있다. 공학적 배경과 신학적 사유를 겸비한 이력 덕분에, 그는 기술 윤리 논의에서 이론과 실천을 동시에 아우르는 드문 학자로 평가받는다.
그의 핵심 주장은 AI 알고리즘 설계 단계부터 인간의 판단과 의도가 반영되어야 하며, 기술적 성능만큼이나 윤리적 가치가 내재화되어야 한다는 것이다. 그가 제시한 '휴먼 인 더 루프(Human in the Loop·HITL)' 개념은 AI의 의사 결정 과정에 인간이 지속적으로 개입함으로써 오류를 방지하고 신뢰성과 안전성을 높이는 핵심 설계 원칙이다. 단순히 기술적 결함을 보완하는 수준을 넘어, AI가 사회에 미치는 윤리적·사회적 영향을 사전에 조율하는 구조적 장치로 기능한다.
베난티 신부는 인간의 개입 없는 알고리즘은 공동선이 아닌 특정 권력의 이해관계를 강화하는 도구로 전락할 수 있다고 경고한다.
휴먼 인 더 루프: 공동선 위한 디자인
AI 윤리 문제에 관한 국제적 논의는 베난티 신부가 직접 주도한 활동에서도 선명히 드러난다. 그는 2020년 마이크로소프트(MS), IBM 등 세계적 기술 기업들이 참여한 'AI 윤리에 관한 로마 호소(Rome Call for AI Ethics)' 발표를 이끌었다.
광고
이 호소문은 AI가 초래할 수 있는 사회 변화에 대비해 인간 존엄성, 데이터 투명성, 알고리즘 책임이라는 윤리적 가치를 어떻게 구현할지에 대한 가이드라인을 담고 있다. 기술 기업들이 개발 역량뿐 아니라 사회적 책임을 공식적으로 선언했다는 점에서 국제 AI 거버넌스의 중요한 이정표로 기록된다.
베난티 신부는 또한 종교 지도자들이 AI 윤리 문제에 일찍부터 적극적으로 개입해왔다는 사실을 강조했다. 프란치스코 교황은 이민, 환경 문제와 함께 AI 윤리 문제를 신학적·도덕적 관점에서 다뤄야 한다고 일관되게 역설했다.
후임 레오 14세 교황 역시 취임 후 첫 회칙인 '고귀한 인류'를 통해 AI 시대의 인간 존엄성과 윤리 문제를 정면으로 다뤘다. 베난티 신부는 AI가 현대판 바벨탑이 될 수 있다고 경고하며, 기술 발전이 인류의 분열이 아닌 연대로 이어지려면 윤리적 성찰이 기술 개발과 동시에 진행되어야 한다고 강조했다.
한국 교육과 문화가 나아가야 할 방향
한국 사회에서 이러한 AI 윤리 원칙을 어떻게 제도화할 것인가는 여전히 과제로 남아 있다. 베난티 신부의 HITL 개념은 AI 관련 법률과 규정 설계에서 인간 감독 의무를 명문화하는 방향으로 적용될 수 있다. 기술 기업들에 대한 과도한 규제가 혁신을 저해할 수 있다는 우려도 존재하지만, 베난티 신부는 기술 발전의 목표 자체가 인간 삶의 질 향상에 있다면 윤리적 성찰은 규제가 아닌 발전의 조건이라고 반박한다.
전 세계적으로 통합된 기준과 협력 체제가 필요하다는 논의가 이어지는 가운데, 한국 역시 AI 거버넌스 체계를 구축하는 데 있어 이 같은 국제적 흐름을 참고해야 한다는 시각이 제기된다. AI 기술이 의료, 교육, 사법, 금융 등 사회 전 영역으로 확산될수록 알고리즘이 어떤 가치를 반영하느냐는 문제는 기술적 선택이 아닌 사회적 결정의 문제가 된다.
베난티 신부가 강조하는 '공동선'은 추상적 구호가 아니라 알고리즘 설계 단계에서 구체적으로 구현되어야 할 원칙이다.
광고
AI가 우리의 삶과 사회 구조에 깊이 스며들수록 인간으로서의 존엄성과 책임을 어떻게 지킬 것인가라는 질문은 더 이상 철학자만의 몫이 아니다. 그 답은 기술을 설계하고 사용하는 모든 주체가 함께 만들어가야 한다.
FAQ
Q. 일반 시민이 AI 윤리 논의에 기여할 수 있는 현실적인 방법은 무엇인가?
A. AI 윤리는 전문가만의 영역이 아니다. 시민은 AI 기반 서비스를 이용할 때 해당 서비스의 데이터 수집 방식과 자동화 결정 구조를 확인하는 습관을 들일 수 있다. 공청회나 정책 입법예고 기간에 의견을 제출하는 것도 직접적인 참여 방법이다. 베난티 신부가 강조하는 HITL 원칙처럼, 알고리즘의 영향권 안에 있는 시민 모두가 그 설계 방향에 목소리를 낼 수 있을 때 공동선에 가까운 AI 거버넌스가 가능해진다.
Q. '로마 호소(Rome Call for AI Ethics)'는 어떤 실질적 효력을 가지는가?
A. 2020년 베난티 신부 주도 아래 마이크로소프트, IBM, 유엔 식량농업기구(FAO) 등이 서명한 로마 호소는 법적 구속력을 갖지는 않는다. 그러나 AI 개발 기업이 인간 존엄성, 데이터 투명성, 포용성이라는 가치를 공개적으로 선언했다는 점에서 국제 AI 거버넌스 논의의 기준점 역할을 한다. 이후 유럽연합(EU) AI 규제법(AI Act) 등 각국 입법 과정에서 이 호소문의 원칙이 참조됐으며, 민간 주도 윤리 선언이 제도적 논의로 이어지는 경로를 보여준 사례로 평가된다.
Q. 한국에서 AI 윤리 교육은 어떤 수준에서 이루어지고 있는가?
A. 현재 한국의 AI 윤리 교육은 일부 대학원 과정과 특수 교과목에 국한되어 있으며, 초·중등 교육과정에서는 체계적으로 다뤄지지 않는 경우가 많다. 과학기술정보통신부가 AI 교육 로드맵을 발표했지만 윤리 부문보다는 기술 역량 강화에 무게가 실려 있다는 지적이 이어진다. 베난티 신부가 제시하는 '알고리즘을 짤 때 인간이 개입하는 능력'은 코딩 교육만으로 길러지지 않으며, 윤리적 사고와 사회적 책임 의식을 동시에 키우는 교육 설계가 요구된다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}
