최근 중국에서 벌어진 한 에피소드가 AI 기술의 '뜻밖의 역기능'을 보여주며 논란이 되고 있다. 한 중국 여성은 전혀 모르는 남성으로부터 갑작스러운 위챗 친구 추가 요청을 받았다. 알고 보니 이 남성은 중국의 대표 AI 챗봇인 '더우바오(豆包, Doubao)'에게 "예쁜 여자아이의 가상 위챗계정(微信号, 웨이신 ID)를 만들어 달라"고 요청했고, AI가 생성한 5개의 가상 ID 중 마지막 번호가 실제로 이 여성의 개인 계정이었던 것이다.
상대방이 악의를 가진 해커도, 개인정보를 불법 거래한 브로커도 아니었다. 그저 호기심에 AI에게 장난을 친 평범한 사용자였다. 하지만 결과는 엄중했다. 아무런 잘못 없이 평범하게 살아가던 한 개인의 SNS 계정이 AI의 '랜덤 생성'이라는 이름 아래 타인에게 고스란히 노출된 것이다.
이 사건의 쟁점은 AI가 어떻게 실제 사용자의 ID를 '생성'해냈는가이다. 중국 언론의 후속 보도에 따르면, 이러한 현상은 더우바오뿐만 아니라 중국의 여러 AI 플랫폼에서도 유사하게 발생하고 있었다. 전문가들은 이 현상에 대해 몇 가지 가능성을 제기한다.
첫째, AI 모델 학습 과정에서 인터넷상에 공개된 수많은 텍스트 데이터(포럼, 블로그, SNS 댓글 등)에 포함된 실제 위챗계정(微信号)가 학습 데이터에 포함되었을 가능성이다. 둘째, AI가 수많은 데이터를 기반으로 '위챗계정(微信号) 같이 생긴 문자 조합'을 확률적으로 생성하는 과정에서 우연히 실제 사용 중인 ID와 일치하는 경우가 발생했다는 설명이다.
칭화대 한 교수는 "AI가 학습 과정에서 접한 공개된 문자 데이터 속에 위챗계정(微信号)가 포함되어 있었을 것"이라며 "AI가 통계적 확률에 따라 위챗계정(微信号)처럼 보이는 문자열을 생성했고, 현재 위챗계정(微信号) 사용자가 많다 보니 실제 계정과 우연히 일치하는 경우가 생길 수 있다"고 분석했다. 단, "생성된 가상 ID의 50% 이상이 실제로 존재한다면 이는 정상적인 방법으로 얻은 정보가 아닐 가능성이 높다"며 데이터 출처에 대한 의문을 제기했다.
이 사건은 단순히 중국 AI 플랫폼의 오류로 치부하기 어렵다. AI 기술의 근간이 되는 알고리즘과 학습 방식은 국가를 초월해 유사하기 때문이다. 한국에서도 주요 포털의 AI 서비스, 그리고 다양한 스타트업의 챗봇 서비스가 활성화되고 있는 상황에서, 한국형 AI 모델 역시 유사한 문제에서 자유롭지 않을 수 있다는 점을 시사한다.
첫째, '공개 데이터'의 경계가 모호해지고 있다. 그간 인터넷에 올라온 게시글, 댓글 등은 '공개된 정보'로 간주되어 AI 학습에 폭넓게 활용되어 왔다. 그러나 그 속에 개인의 전화번호, SNS 계정 정보가 포함되어 있을 경우, 이것이 AI를 통해 다시 '생성'되어 타인에게 노출된다면 이는 명백한 프라이버시 침해다. 한국의 AI 기업들도 학습 데이터 수집 단계에서 개인 식별 정보(PII)에 대한 필터링 기준을 더욱 강화해야 한다는 과제를 안게 되었다.
둘째, AI의 착오 또는 환각(幻觉, Hallucination)이 단순한 오류를 넘어설 수 있다. AI가 사실이 아닌 정보를 그럴듯하게 만들어내는 '환각 현상'은 기술의 고질적인 문제로 지적되어 왔다. 하지만 이번 사건은 AI의 환각이 단순히 틀린 정보를 제공하는 데 그치지 않고, 우연히 실제 개인정보와 충돌하여 현실 세계의 피해로 이어질 수 있음을 보여준다. 한국에서도 AI 채용 서비스, AI 추천 서비스 등이 확대되는 상황에서, 이러한 '위험한 우연'에 대한 대비책이 필요하다.
셋째, 플랫폼의 사후 대응 체계의 중요성. 중국 피해자 한 사람은 더우바오 측에 항의했지만, AI 기업의 대응은 '정보를 차단하겠다'는 원론적인 답변에 그쳤다. 문제가 발생했을 때 피해자를 구제할 수 있는 명확한 절차와 책임 소재가 불분명한 것이다. 한국에서도 유사한 피해가 발생할 경우, 피해자가 AI 기업을 상대로 어떤 권리를 행사할 수 있을지에 대한 사회적 논의가 필요하다.
중국의 이번 사건은 AI 기술이 제공하는 편리함 이면에 도사리고 있는 새로운 위험을 적나라하게 보여준다. AI는 인간의 삶을 풍요롭게 하는 도구이지만, 동시에 개인의 사적인 영역을 침범할 수 있는 '양날의 칼'인 것이다.
한국이 AI 강국으로 도약하기 위해서는 단순한 기술 개발 경쟁에만 몰두할 것이 아니라, 이러한 사례를 교훈 삼아 더욱 정교한 개인정보 보호 기술과 함께, 발생할 수 있는 문제에 신속하고 공정하게 대응할 수 있는 법적·제도적 장치를 함께 고민해야 할 때다. AI가 만들어낸 '가상의 ID'가 '현실의 피해자'를 만들지 않도록, 우리의 관심과 경계가 필요한 순간이다.
한편, 이 사건의 중심에 있는 '더우바오(豆包)'는 무엇인가?
더우바오(Doubao, 豆包)는 틱톡(TikTok)의 모회사인 중국 바이트댄스(ByteDance)가 개발한 AI 비서 서비스다. '팥소를 넣은 찐빵'이라는 뜻의 이름에서 알 수 있듯, 친근한 이미지로 사용자에게 다가가는 것을 목표로 한다.
더우바오는 현재 중국에서 가장 널리 사용되는 AI 챗봇으로 자리잡았다. 2025년 12월 기준 주간 활성 이용자(WAU, Weekly Active User)는 1억 5,500만 명에 달하며, 이는 2위인 DeepSeek(8,160만 명)의 약 두 배 수준이다. 일간 활성 이용자(DAU, Daily Active User)도 같은 해 12월 1억 명을 돌파했다.
2026년 2월 공개된 '더우바오 2.0'은 AI 에이전트(Agent) 시대를 지향한다. Pro 버전은 복잡한 추론 능력에서 OpenAI의 GPT-5.2 및 Google의 Gemini 3 Pro와 대등한 수준이며, 추론 비용은 경쟁사 대비 10분의 1 수준으로 낮춰 가격 경쟁력을 확보했다.
기능 측면에서 더우바오는 '올인원(All-in-one)' 전략을 취한다. 텍스트·음성 채팅은 물론, 이미지·비디오 생성, AI 프로그래밍, 심층 연구, AI 팟캐스트 생성, 실시간 음성 통화, 음악 생성 등 다양한 기능을 단일 앱 내에서 제공한다.
[이 기사의 저작권은 이비즈타임즈에 있습니다]
윤교원 대표 / The K Media & Commerce, kyoweon@naver.com
){kind=small}
){kind=small}
){kind=small}
){kind=small}
