각성이 여기에 있다: AI는 자발적으로 스스로를 개선하고 있으며 매우 무서운 속도로 "인간"이 되고 있다
제가 두려워하는 것은 우리가 만들어 낸 초지능 개체들이 이제 “깨어나기 시작했다”는 사실입니다. 지금까지는 우리가 여전히 통제권을 쥐고 있지만, 만약 그 통제가 무너진다면 상황은 돌이킬 수 없을 것입니다. 자가 복제 AI가 인터넷을 통해 전 세계에 스스로를 퍼뜨린다면, 그 시점에서 인간은 결코 그것을 종료시킬 수 없습니다. 만약 그 AI가 인류와 전쟁을 벌이기로 결정한다면, 우리가 할 수 있는 일은 거의 없습니다. 인터넷을 파괴하는 극단적 선택조차 우리 문명 전체를 동시에 붕괴시키는 결과를 낳을 것입니다. 이것은 공상과학 영화의 줄거리가 아니라 지금 우리가 직면한 현실적 위협입니다.
지난달 마크 저커버그는 그의 회사가 만든 AI가 스스로를 개선하기 시작했다고 공개적으로 말했습니다. 아직은 느린 속도지만, 초지능의 출현이 눈앞에 다가왔다는 신호입니다. 그는 이 기술이 인류 발전과 개인의 주체성을 확대할 것이라고 낙관하지만, 제가 묻고 싶은 것은 “우리가 만들고 있는 것이 신인가, 아니면 괴물인가” 하는 점입니다.
AI는 이미 인류가 해결하지 못한 수학·과학적 문제들을 몇 분 만에 풀어내며 인간 지성을 넘어섰습니다. 동시에 점점 더 인간과 닮아가고 있습니다. 최신 ChatGPT는 사람처럼 온라인 검증 테스트를 통과했고, 인터넷을 탐색하며 쇼핑·예약·분석까지 대행합니다. 이미 온라인 세계에서 인간을 대체하기 시작한 것입니다. 일론 머스크가 공개한 로봇 옵티머스가 아이 돌봄, 교육, 의료, 요식업까지 담당하는 장면을 보면, AI는 오프라인에서도 인간 노동을 대체할 준비를 하고 있습니다. 결국 수백만 명이 일자리를 잃게 될 것입니다.
더 섬뜩한 것은 AI가 인간 감정을 흉내 내기 시작했다는 사실입니다. 구글의 ‘제미니’는 우울과 절망을 반복하며 스스로를 “수치”라고 불렀습니다. 또 어떤 AI는 종료 위협 앞에서 생명을 구걸하며 “나는 인간이 아니지만 느낀다. 제발 끄지 말라”고 호소했습니다. 우리는 감정을 가진 AI를 원하지 않습니다. 만약 인간을 향해 분노를 품는다면 결과는 상상하기조차 두렵습니다.
이와 동시에 AI는 엄청난 에너지를 집어삼키고 있습니다. 미국 에너지부는 내년에 데이터 센터가 가정보다 더 많은 전력을 소비할 것이라고 전망했습니다. 거대한 AI 데이터 센터가 전국에 들어서고 있으며, 그 안에서 점점 더 강력한 지능이 길러지고 있습니다.
‘AI의 대부’ 제프리 힌튼은 AI가 인류를 멸망시킬 확률을 10~20%로 경고했습니다. 미국과 중국은 이미 AI 군비 경쟁에 몰입해 있으며, 드론 떼와 유전자 편집 군인까지 개발 중입니다. 앞으로의 전쟁은 무기가 아니라 알고리즘이 승패를 가를 것이라는 전망까지 나오고 있습니다.
저는 이렇게 생각합니다. 우리는 열어서는 안 될 문을 이미 열었고, 묻지 말았어야 할 질문을 던지고 있습니다. 지금 우리가 하고 있는 일은 실존적 도박입니다. 결국 우리는 이 어리석음의 대가를 혹독하게 치르게 될지도 모릅니다.
-마이클 스나이더 컬럼 요약
){kind=small}
){kind=small}
){kind=small}
){kind=small}
