국내 검색 시장을 주도하는 네이버의 인공지능 기반 검색 서비스가 일부 검색어에서 부정확한 정보를 제공한 사실이 확인됐다. 생성형 AI가 작성한 저신뢰 블로그 콘텐츠를 근거로 답변을 생성하면서, 사용자 안전과 직결될 수 있는 오류가 노출된 사례다.
정보기술 업계에 따르면 한동안 네이버 검색창에 특정 독버섯의 조리법을 입력하면 AI 검색 요약 서비스인 ‘AI 브리핑’에 별다른 경고 없이 레시피 형태의 안내가 노출됐다. 해당 버섯은 식용이 불가능한 독성 균류로, 동일한 키워드를 일반 검색으로 조회할 경우에는 강한 독성이 있다는 설명이 지식 정보 영역에 표시된다. 검색 결과 간 정보 일관성이 무너진 셈이다.
문제의 원인은 AI 브리핑이 참고한 출처에 있었다. 답변 하단에 제시된 참고 문서에는 효능과 요리법을 소개하는 제목의 개인 블로그 게시물이 포함돼 있었는데, 이 콘텐츠는 사실 검증이 되지 않은 채 생성형 AI로 작성된 저품질 글로 추정됐다. 실제 게시물에서는 유사한 문장 구조와 반복적인 표현이 다수 발견됐고, 댓글 역시 기계적으로 생성된 흔적을 보였다.
네이버는 문제를 인지한 직후 해당 검색어에 대한 AI 브리핑 제공을 중단했고, 오류를 유발한 문서에 대해 삭제 및 조치 절차를 진행 중이다. 회사 측은 신뢰도가 낮은 문서를 선별하는 기술을 고도화하고, AI가 생성한 콘텐츠에 대한 탐지와 모니터링을 강화하겠다는 입장을 밝혔다.
이와 대조적으로 같은 검색어를 구글 검색 서비스에서 조회하면 전혀 다른 결과가 나타난다. 구글의 AI 기반 요약 기능은 해당 버섯이 독성을 지닌 종이라는 점을 명확히 밝히며, 식용 레시피가 존재하지 않는다는 설명을 제공한다. 이 답변은 동영상 플랫폼, 백과사전, 사회관계망 서비스 등 다양한 출처의 정보를 교차 검증한 결과다.
검색 시장 점유율만 놓고 보면 네이버는 여전히 국내 1위다. AI 브리핑 적용 범위 역시 전체 검색어의 약 20% 수준까지 확대됐다. 그러나 이번 사례는 검색 서비스의 핵심 경쟁력이 단순한 노출 범위가 아니라 정보의 정확성과 신뢰성에 있음을 다시 한 번 드러냈다.
전문가들은 검색 AI의 품질을 좌우하는 요소로 데이터 선별 과정을 지목한다. 사용자 반응과 피드백을 지속적으로 반영해 신뢰도가 높은 정보를 학습 데이터로 축적해야 한다는 것이다. 네이버 역시 AI 브리핑에 피드백 기능을 도입해 이용자가 답변의 유용성 여부를 직접 평가하도록 하고 있다.
개발 업계에서는 대규모 언어모델 기반 서비스가 성능을 유지하기 위해서는 ‘사후 학습’과 검증 과정이 필수라고 본다. 실제로 글로벌 AI 서비스들은 이용자가 선호하는 답변을 선택하게 하는 방식으로 고품질 데이터를 축적하고, 이를 모델 개선에 활용한다.
네이버도 내부 기술 행사에서 LLM 기반 평가를 통해 신뢰도 높은 문서만 선별하는 검색 고도화 전략을 공개한 바 있다. 단순히 검색어와 연관된 문서를 나열하는 방식에서 벗어나, 공공기관과 공신력 있는 출처의 정보를 우선 제공하는 방향으로 전환 중이다.
업계 관계자는 검색 AI가 오류를 스스로 걸러내기 위해서는 막대한 비용과 시간이 수반되는 데이터 관리 체계가 필요하다고 지적한다. 지속적인 검증과 이용자 참여형 피드백이 병행되지 않으면 유사한 문제는 반복될 수밖에 없다는 분석이다.
이번 사례는 AI 검색 서비스의 확장 속도보다 정보 신뢰성 확보가 우선돼야 함을 보여준다. 플랫폼 입장에서는 기술 경쟁력을 점검하는 계기가 되고, 이용자에게는 검색 결과를 비판적으로 수용해야 할 필요성을 환기한다.
검색 AI는 이미 일상적인 정보 탐색 도구로 자리 잡았다. 그러나 정확하지 않은 한 줄의 요약은 심각한 오해와 위험으로 이어질 수 있다. 데이터 품질 관리와 검증 체계가 AI 검색 경쟁의 핵심 변수로 떠오르고 있다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}
