AI 챗봇이 반유대주의 음모론에 대한 믿음을 감소시킴

유대인 혐오 음모론에 맞서도록 훈련된 AI 챗봇이 사용자들의 이러한 신념을 줄이고 유대인에 대한 인식을 개선했다는 연구 결과가 수요일에 공개되었습니다. 이 연구는 유대인 명예훼손방지연맹(ADL) 산하 반유대주의 연구센터 소속 연구진이 발표한 것입니다. 효과는 한 달 후에도 지속되어, 증가하는 반유대주의에 맞서 새로운 희망을 제공합니다.​

이 실험에는 적어도 여섯 가지의 대표적인 반유대인 음모론 중 하나를 믿는 1,200명 이상의 사람들이 참여했습니다. 여기에는 유대인들이 미디어를 통제한다거나, 이민에 유대인들이 관여한다는 ‘위대한 대체 이론’ 등이 포함됩니다. 참가자들은 이러한 이론을 반박하도록 프로그래밍된 AI 모델과 대화를 나눴으며, 이 모델은 Anthropic의 Claude를 기반으로 만들어졌습니다. 연구진이 ‘DebunkBot’이라고 부르는 챗봇과 교류한 사람들은 대조군보다 자신들의 신념이 훨씬 더 약해지는 경향이 나타났습니다.​​

이번 연구의 시니어 저자이자 코넬대학교 교수인 데이비드 랜드는 “이 연구 결과가 주목할 만한 점은, 사실에 기반한 반박이 정체성과 편견에 뿌리 깊게 연결되었고 오랜 역사를 가진 음모론에도 효과가 있다는 것”이라고 밝혔습니다. 랜드는 이어, “AI는 대부분 정확한 정보와 증거 기반 반론을 제시함으로써, 여전히 사실이 사람들의 생각을 바꿀 수 있음을 보여준다”고 덧붙였습니다.​

잘못된 정보의 문제, 단순한 편견이 아니다

ADL의 반유대주의 연구센터를 이끄는 Matt Williams는 이 연구가 반유대주의를 주로 시민권 문제가 아닌 잘못된 정보의 문제로 이해하는 방식의 전환을 반영한다고 말했습니다. 지난 10년 동안 음모론을 믿는 미국인의 비율이 역사적 비율의 두 배 이상인 45%에 달했다고 Williams는 말했습니다.​

이 연구는 AI 모델이 증오 확산에서 차지하는 역할에 대한 감시가 증가하는 가운데 나왔습니다. 이번 주, 프랑스 당국은 Elon Musk의 Grok 챗봇이 한 사용자에게 나치 가스실이 대량 학살을 위해 설계되지 않았다고 말했다는 보도 이후 조사에 착수했습니다. 3월에 발표된 ADL 보고서는 주요 AI 언어 모델에서 반유대주의와 반이스라엘 편향을 발견했습니다.​

한계 및 다음 단계

연구 결과에 따르면 DebunkBot은 완전한 해결책이 아니었습니다. 더 많은 반유대주의 음모론을 믿는 사람들은 더 적은 변화를 경험했으며, 믿음은 감소했지만 완전히 제거되지는 않았습니다. 그럼에도 불구하고 Williams는 음모론 믿음에 대응할 수 있는 모든 전략이 가치 있다고 말했습니다. DebunkBot은 현재 온라인에서 이용 가능하며, ADL은 주요 AI 플랫폼들이 그 전문성을 통합하도록 설득하기 위해 노력하고 있습니다. "AI와 LLM들은 도구입니다, 그렇죠?" Williams가 말했습니다. "우리는 도구를 선과 악을 위해 사용할 수 있습니다".