Reddit, 위험한 의료 조언 우려 속에 AI 검색 전 세계로 확대

(퍼플렉시티가 정리한 기사)

Reddit는 이번 주에 AI 기반 검색 기능 "Answers"를 5개의 새로운 언어로 출시했습니다. 이는 챗봇이 만성 통증 완화를 위해 헤로인을 포함한 위험한 물질을 의학적 상태에 권장하는 경향에 대한 비판이 증가하고 있는 가운데 이루어졌습니다.

이 소셜 미디어 플랫폼은 목요일에 Reddit Answers가 이제 프랑스어, 독일어, 스페인어, 이탈리아어, 포르투갈어를 지원하여 브라질, 프랑스, 독일, 스페인, 멕시코, 이탈리아의 사용자들에게 접근성을 확대한다고 발표했습니다. Google AI 모델을 사용하여 커뮤니티 토론을 요약하는 이 기능은 2024년 베타 출시 이후 주간 사용자 수가 100만 명에서 600만 명으로 증가했습니다.

AI가 통증 관리를 위해 불법 약물을 제안함

그러나 이번 확장은 의료 전문가들이 Reddit Answers가 의료 서브레딧에서 헤로인과 크라톰을 통증 관리 솔루션으로 홍보하는 것을 발견한 후 심각한 안전 우려 속에서 이루어졌습니다. r/FamilyMedicine 서브레딧의 모더레이터는 AI 도구가 사용자에게 "현재 복용 중인 처방약을 중단하고 고용량 크라톰을 복용하라"고 제안하고 사용자 일화를 바탕으로 헤로인을 추천한 것에 대해 문제를 제기했습니다.​

404 Media에 따르면, AI는 만성 통증 질문에 응답할 때 "아이러니하게도 헤로인이 그런 상황에서 제 목숨을 구했습니다"라고 명시된 Reddit 게시물을 인용했습니다. 챗봇은 또한 신생아 발열 치료에 대해 의심스러운 조언을 제공하며, 신생아에게 열이 있을 경우 기다려도 괜찮다고 제안했습니다.​

"우리 서브레딧은 잘못된 정보에 대해 엄격한 규칙을 가지고 있으며, 가능하다면 이 기능을 즉시 비활성화할 것입니다"라고 r/FamilyMedicine의 모더레이터들이 커뮤니티 공지에서 썼습니다. "우리는 현재 Reddit Answers를 지지하거나 지원하지 않으며, 모든 사용자가 이것이 제공하는 정보를 무시할 것을 강력히 권고합니다."

플랫폼 응답이 중재자 요구에 미치지 못함

반발이 일자, Reddit은 민감한 주제에 대한 "관련 답변"이 대화 페이지에 표시되지 않도록 하는 업데이트를 시행했습니다. 그러나 운영자들은 여전히 이 기능을 완전히 비활성화하거나 커뮤니티 내에서 위험한 응답을 표시할 수 없다고 보고하고 있습니다.​

"이번 업데이트는 이전에 게시물 상세 페이지에 표시되었을 수 있는 민감한 주제에 대한 '관련 답변'이 더 이상 표시되지 않도록 보장합니다"라고 Reddit 대변인이 여러 매체에 밝혔습니다. 회사는 어떤 주제가 AI 응답에서 제외되었는지는 구체적으로 명시하지 않았습니다.​

이번 논란은 AI 챗봇이 적절한 안전장치 없이 의료 조언을 제공하는 것에 대한 광범위한 우려를 부각시킵니다. Google의 AI Overviews를 포함한 다른 AI 시스템들도 유사한 문제로 어려움을 겪었으며, 이전에는 피자에 "무독성 접착제"를 사용할 것을 제안하기도 했습니다.​

Reddit CEO Steve Huffman은 회사의 2분기 실적 발표에서 플랫폼의 전체 검색 기능이 매주 7천만 명 이상의 사용자를 유치하고 있으며, Reddit Answers는 6백만 명 이상의 사용자에게 도달했다고 보고했습니다. 회사는 ChatGPT 및 Perplexity와 같은 다른 대화형 AI 도구와 경쟁하기 위한 광범위한 전략의 일환으로 궁극적으로 기존 검색과 AI 기반 검색 경험을 통합할 계획입니다.