AI 검색 엔진이 피상적인 학습을 조장한다는 연구 결과 발표

(퍼플렉시티가 정리한 기사)

이번 주에 발표된 두 개의 새로운 연구는 인공지능 기반 검색 엔진이 사용자 학습과 정보 수집에 미치는 영향에 대한 우려스러운 패턴을 드러내며, 이러한 도구들이 전통적인 웹 검색 방법에 비해 지식 습득의 깊이를 저해할 수 있음을 시사한다.

AI 챗봇은 덜 포괄적인 이해를 생성한다

PNAS Nexus에 오늘 게재된 한 연구에 따르면, ChatGPT와 같은 AI 챗봇을 통해 주제를 학습하는 사람들은 동일한 기본 정보에 접근하더라도 전통적인 웹 검색을 사용하는 사람들보다 훨씬 더 피상적인 지식을 습득하는 것으로 나타났다. 연구자 Shiri Melumad와 Jin Ho Yun은 채소 재배부터 금융 사기 예방에 이르는 주제를 대규모 언어 모델 또는 표준 Google 검색 결과를 사용하여 조사하도록 무작위로 배정된 수천 명의 참가자들을 대상으로 7개의 실험을 수행했다.​

연구 결과는 명확했다: AI 챗봇을 사용한 참가자들은 정보에 참여하는 시간이 더 적었고 더 피상적인 이해를 발전시켰다고 보고했다. 연구를 바탕으로 조언을 작성하도록 요청받았을 때, AI 생성 요약에 의존한 사람들은 객관적으로 더 짧고, 사실적 참조가 더 적으며, 다른 참가자들의 작업과 더 높은 유사성을 보이는 콘텐츠를 생성했다. 1,501명의 독립적인 평가자들에 의한 블라인드 평가에서, AI 검색에서 파생된 조언은 전통적인 웹 검색을 기반으로 한 조언보다 덜 도움이 되고, 덜 유익하며, 덜 신뢰할 수 있는 것으로 일관되게 평가되었다.​

엔진은 덜 인기 있는 출처에 의존한다

Ruhr University Bochum과 Max Planck Institute의 별도 연구에 따르면, AI 기반 검색 엔진이 전통적인 검색 결과에는 나타나지 않는 출처를 자주 인용하는 것으로 나타났습니다. 이 연구는 Google의 AI Overviews가 참조한 출처 중 53%가 동일한 쿼리에 대한 상위 10개 전통적인 Google 검색 결과에 나타나지 않았으며, 40%는 상위 100개 결과에도 포함되지 않은 것으로 밝혔습니다.​

이러한 패턴은 주요 AI 검색 플랫폼 전반에 걸쳐 확장되며, Gemini와 같은 시스템은 방문 횟수 상위 1,000개 웹사이트에도 포함되지 않는 잘 알려지지 않은 도메인을 인용하는 뚜렷한 경향을 보입니다. 이 연구는 AI 검색 도구가 정보가 발견되고 검증되는 방식을 근본적으로 변화시키고 있으며, 잠재적으로 사용자를 덜 검증되었거나 익숙하지 않은 출처로 유도할 수 있음을 시사합니다.​

정보 품질에 대한 우려 증가

이러한 연구 결과들의 수렴은 연구자들이 학습이 "능동적인 탐구에서 수동적인 활동으로" 변화하는 것으로 묘사하는 바를 강조합니다. PNAS Nexus 연구에 따르면, AI 챗봇은 부인할 수 없는 효율성을 제공하지만, 사전 합성된 요약은 "절차적 지식, 즉 실제로 일을 어떻게 하는지에 대한 이해를 개발하는 것이 목표라면 웹 검색보다 잠재적으로 덜 유용할 수 있습니다".​

추가 연구에 따르면 AI 검색 엔진은 출처 표시의 정확성에 어려움을 겪고 있으며, 일부 플랫폼은 절반 이상의 경우 조작된 URL이나 잘못된 기사를 인용하고 있습니다. Pew Research Center의 최근 데이터는 AI 요약을 접하는 Google 사용자들이 원본 출처를 클릭할 가능성이 낮으며, AI 개요가 표시될 때 클릭률이 15%에서 단 8%로 떨어진다는 것을 보여줍니다.