[메디컬 리포트] “AI가 위험하다는데…” 생성형 AI 건강 정보 맹신이 부른 ‘응급실 역설’
검증되지 않은 AI 답변에 불안감 증폭, 불필요한 응급실 방문 급증
전문의 분석 “AI는 의학적 진단 주체 될 수 없어… 할루시네이션(환각) 정보에 주의해야”의료계 제언 “디지털 건강 문해력 향상 시급… 이상 증상 시 AI보다 전문가 상담이 정직한 해법”
인공지능(AI) 기술의 대중화로 누구나 쉽게 건강 정보를 얻을 수 있게 되었지만, 동시에 잘못된 정보로 인한 부작용도 속출하고 있다.
최근 생성형 AI의 답변을 전문적인 의학적 진단으로 오인하여 경미한 증상임에도 응급실로 달려가는 이른바 ‘AI발 응급실행’이 늘어나고 있기 때문이다.
전문가들은 AI가 그럴듯한 문장으로 정보를 제공하지만, 실제 환자의 신체 상태를 정직하게 진찰할 수 없다는 점을 간과해서는 안 된다고 경고한다. 준비되지 않은 AI 활용이 실제 응급 환자들의 골든타임을 뺏는 응급실 과밀화의 새로운 원인으로 지목되고 있다.
■ 1. 실태 분석: 왜 사람들은 AI의 말을 맹신하는가?
생성형 AI는 방대한 의학 데이터를 학습하여 전문 용어를 섞어가며 답변을 내놓는다.
사용자는 이 과정에서 AI를 권위 있는 의료 전문가로 착각하는 경향이 있다.
- 확증 편향의 심화: 자신의 증상을 AI에 입력했을 때, AI가 제시한 수많은 가능성 중 가장 위험한 질병에 꽂힌 사용자는 극심한 불안감에 빠진다. 예를 들어 단순 근육통을 '심근경색의 전조'로 답변할 경우, 사용자는 즉시 응급실을 찾게 된다.
- 접근의 편의성: 병원 예약이나 대기 시간 없이 즉각적인 답변을 얻을 수 있다는 점이 '닥터 AI'에 대한 의존도를 높였다.
- 할루시네이션(Hallucination)의 함정: AI가 존재하지 않는 의학 논문을 인용하거나 잘못된 수치를 제시하는 오류를 범해도, 일반인은 이를 정직하게 가려내기 어렵다.
■ 2. 의료계의 경고: “AI는 진단 도구가 아닌 보조 수단일 뿐”
응급의학과 및 정보의학 전문가들은 현재의 상황이 의료 체계에 미치는 악영향을 우려한다.
응급의학과 전문의 문선영씨는 "AI의 조언을 듣고 온 환자들 중 상당수가 실제로는 응급 처치가 필요 없는 경증 환자"라며 "이들이 응급실 인력과 장비를 점유하면서, 정작 정직한 치료가 시급한 중증 외상이나 뇌졸중 환자들의 대기 시간이 길어지는 치명적인 부작용이 발생하고 있다"고 분석했다.
의료 정보학 전문가 문정민 원장은 "생성형 AI는 확률적 모델일 뿐, 환자의 병력이나 현재의 안색, 혈압 등을 종합적으로 판단하는 임상적 추론 능력이 없다"며 "AI가 내놓은 정보를 절대적인 지침으로 삼는 것은 자신의 생명을 확률 게임에 맡기는 위험한 행위"라고 제언했다.
■ 3. 올바른 대응 가이드라인: 스마트한 AI 활용법
AI 기술을 거부할 수는 없지만, 이를 정직하게 활용하는 방법을 익히는 것이 중요하다.
- 참고 자료로만 활용: AI의 답변은 병원을 가기 전 정보를 탐색하는 기초 자료로만 사용해야 한다. 최종 판단과 처방은 반드시 면허를 가진 의료진에게 받아야 함을 명심해야 한다.
- 출처 확인의 습관: AI가 제공한 정보가 신뢰할 수 있는 기관(질병관리청, 대학병원 등)의 데이터에 근거한 것인지 재차 확인하는 정교한 준비가 필요하다.
- 비대면 진료 및 상담 채널 이용: 막연한 불안감으로 응급실을 찾기 전, 정부가 운영하는 건강상담 전화나 검증된 비대면 진료 플랫폼을 통해 정직한 1차 상담을 받는 것이 효율적인 대책이다.
■ “기술의 진보가 의료의 본질을 대신할 수 없다”
AI는 우리에게 편리함을 주지만, 생명과 직결된 건강 정보에 있어서는 양날의 검과 같다.
과거의 부족함을 화려한 수사로 가리는 것이 아니라, 현재 기술의 한계를 객관적으로 인정하고 이를 보완하는 지혜가 필요하다. AI의 답변에 일희일비하기보다 자신의 몸이 보내는 신호를 정직하게 감지하고 전문가와 소통하는 것이 건강을 지키는 가장 확실한 방패다. 메디컬라이프는 AI 기술이 의료 현장에서 안전하고 올바르게 정착될 수 있도록 관련 기술 동향과 안전 수칙을 지속적으로 보도할 예정이다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}
