로그인
회원가입
계정찾기
AI Services

AI 뉴스

AI 콘텐츠가 레딧을 범람하며 커뮤니티 문화 위협

xtalfi
10.22 16:14
36
0
0
목록
250429-reddit-ew-400p-7b3358.jpg

(퍼플렉시티가 정리한 기사)

Reddit는 정교한 AI 생성 콘텐츠가 커뮤니티에 쏟아지면서 "인터넷에서 가장 인간적인 공간"이라는 정체성에 전례 없는 도전에 직면하고 있으며, 이로 인해 자원봉사 운영자들은 온라인에서 진정한 참여가 무엇을 의미하는지 재정의해야 하는 상황에 놓였습니다.

코넬 대학교의 새로운 연구는 Reddit 운영자들이 AI 생성 콘텐츠를 플랫폼의 핵심 가치에 대한 "삼중 위협"으로 보고 있으며, 이는 콘텐츠 품질을 저하시키고, 사회적 역학을 방해하며, 거의 불가능한 거버넌스 과제를 만들어낸다고 밝혔습니다.

 

중재자들은 탐지와 집행에 어려움을 겪고 있다

 

노르웨이 베르겐에서 열린 ACM SIGCHI 컴퓨터 지원 협업 작업 컨퍼런스에서 발표된 이 연구는 10명에서 3,200만 명에 이르는 회원 수를 가진 100개 이상의 서브레딧을 관리하는 15명의 운영자를 인터뷰했다. Reddit의 광대한 커뮤니티 생태계를 공동으로 관리하는 이들 자원봉사자들은 AI 게시물을 인간처럼 보이지만 진정한 통찰력이 부족한 "장황하지만 영혼 없는" 콘텐츠로 묘사했다.​

r/explainlikeimfive의 한 운영자는 "가장 위협적인 우려 사항으로 평가하겠다"고 말했다. "감지하기 어려운 경우가 많고 사이트의 실제 운영에 매우 방해가 된다고 본다".​

이 문제는 단순한 스팸 탐지를 넘어선다. 운영자들은 반복적인 문구와 AI 작성을 나타낼 수 있는 문체상의 이상함을 발견하기 위해 직관에 의존하며 콘텐츠를 수동으로 검토하는 데 몇 시간을 소비한다고 보고한다. Reddit의 AutoModerator와 같은 자동화된 필터조차도 뉘앙스를 다루는 데 어려움을 겪으며, 종종 오탐을 생성하여 진정한 사용자, 특히 영어가 모국어가 아닌 사용자들을 소외시킬 위험이 있다.

 

플랫폼, 진정성 보존을 위해 분투하다

 

Reddit CEO Steve Huffman은 2025년 5월 위기를 인정하며, 인간과 AI 봇을 구별하기 위해 제3자 검증 서비스와 협력할 계획을 발표했습니다. 이 플랫폼은 사용자 익명성을 유지하면서 인간 증명을 위해 Sam Altman의 생체인식 기반 디지털 신원 시스템인 World ID를 고려하고 있는 것으로 알려졌습니다.​

"인간 검증은 현재 우리의 최우선 과제입니다"라고 Huffman은 6월 Financial Times에 말했습니다. "올해 남은 기간 동안 우리는 이를 발전시킬 것입니다. 이는 인터넷 전반에 걸친 필요사항입니다".​

연구자들이 Reddit의 "Change My View" 서브레딧에 AI 봇을 투입하여 다양한 페르소나를 채택하며 1,700개 이상의 댓글을 게시한 후 긴급성이 명백해졌습니다. 이 사건은 Reddit의 사용자 식별 프로세스의 취약점을 드러냈고 AI가 어떻게 진정한 담론을 조작할 수 있는지를 강조했습니다.

 

커뮤니티들이 AI 사용에 대해 강경한 입장을 취하다

 

개별 서브레딧들은 자체적인 제한 조치를 시행하기 시작했습니다. r/WritingPrompts 같은 커뮤니티는 인간의 창의성을 보존하기 위해 AI를 전면 금지한 반면, r/AskHistorians 같은 다른 커뮤니티들은 진정한 전문성을 뒷받침할 때 제한적인 사용을 허용하고 있습니다. 2025년 6월 r/productivity에 게시된 글은 AI 생성 콘텐츠에 대한 전면 금지를 발표했으며, 콘텐츠 품질 저하에 좌절한 사용자들로부터 1,200개 이상의 추천을 받았습니다.​

코넬 대학교 연구에 따르면 2023년 7월부터 2024년 11월 사이 Reddit 커뮤니티 전반에서 AI 규칙이 두 배 이상 증가했으며, 더 큰 서브레딧일수록 제한 조치를 시행할 가능성이 훨씬 더 높았습니다. 시각적 콘텐츠를 자주 공유하는 예술 및 유명인 중심 커뮤니티들은 AI 생성 이미지와 동영상에 대해 특히 우려를 나타냈습니다.​

Reddit 창립자 Alexis Ohanian이 2025년 10월에 경고했듯이, 인터넷의 상당 부분이 "봇으로 가득 차거나" "준(準)-AI화"되어, 한때 "진정한 인간 연결의 공간"이었던 것이 점점 더 "비인간적인" 것으로 변모하고 있습니다. 이제 플랫폼의 과제는 AI로 포화된 디지털 환경에 적응하면서도 플랫폼의 명성을 구축한 진정한 인간의 목소리를 보존하는 데 있습니다.

댓글 0
목록
전체 533 / 11 페이지
메타, 왓츠앱과 메신저에서 사기를 방지하기 위한 AI 도구 출시
메타, 왓츠앱과 메신저에서 사기를 방지하기 위한 AI 도구 출시
(퍼플렉시티가 정리한 기사)메타는 화요일에 WhatsApp과 Messenger 전반에 걸쳐 새로운 사기 방지 기능들을 발표하며, AI 기반 감지 시스템과 화면 공유 경고 기능을 도입했습니다. 이 기능들은 특히 더욱 정교해지는 온라인 사기 행위로부터 고령층을 보호하도록 설계되었습니다.​이 소셜 미디어 대기업은 2025년 상반기에 미얀마, 라오스, 캄보디아, 아랍에미리트, 필리핀에 기반을 둔 운영을 포함하여 약 800만 개의 사기 센터와 연계된 계정을 차단했다고 밝혔습니다. 또한, 메타는 개인정보를 탈취하기 위해 고객 지원 서비스로 가장한 2만 1천 개 이상의 페이스북 페이지에 대해 조치를 취했습니다.새로운 안전 기능이 일반적인 사기 수법을 겨냥합니다WhatsApp은 이제 사용자가 영상 통화 중에 알 수 없는 연락처와 화면을 공유하려고 할 때, 은행 정보나 인증 코드와 같은 민감한 정보를 추출하려는 사기꾼들이 자주 사용하는 방식임을 명확하게 경고하는 알림을 표시합니다. 이 경고는 사용자에게 자신의 화면이 상대방에게 보일 수 있으며, 그 화면에는 은행 정보나 인증 코드가 포함되어 있을 수 있음을 알립니다.​Messenger에서는, 회사가 AI 기반의 고급 사기 감지 기능을 테스트 중이며, 이는 수신 메시지를 분석하여 사기 패턴을 탐지합니다. 새 연락처로부터 수상한 내용이 감지되면, 사용자는 "주의하세요, 돈을 잃을 위험이 있습니다"라는 경고와 함께 재택근무 사기, 빠른 부자되기 제안 등 일반적인 사기 수법에 대한 교육 콘텐츠도 받게 됩니다. 사용자는 이후 최근 메시지를 AI 검토에 제출할 수 있으며, 이 경우 종단간 암호화 보호가 해제됩니다.더 광범위한 이니셔티브, 노인 대상 사기 확산에 대응이 발표는 소셜 미디어 사기가 유행 수준에 이른 가운데 나왔으며, 미국에서 지난해 손실액이 166억 달러를 넘었고, 60세 이상 개인이 가장 큰 피해를 입은 인구 집단이라고 FBI는 보고했습니다. 2024년 한 해 동안 60세 이상 사람들이 사기로 잃은 금액만 48억 달러에 달합니다.​Meta는 "Scams Se Bacho" (사기 주의) 캠페인을 통해 인도 통신부와의 협력을 확대했고, 시니어 시민을 위한 다국어 비디오 콘텐츠를 제작했습니다. 또한, 회사는 Saksham Senior 이니셔티브를 지원하여 인도 주요 도시에서 디지털 리터러시 세션을 열어 고령층이 온라인 안전을 익힐 수 있도록 돕고 있습니다.​추가 보안 기능에는 Facebook, Messenger, WhatsApp 전반에 걸친 Passkey 지원이 포함되어, 지문, 얼굴, 또는 PIN 인증을 통해 사용자가 로그인할 수 있습니다. 회사는 또한 National Elder Fraud Coordination Center(국립 고령 사기 대응 센터)에 합류했으며, 이 센터는 AARP, 아마존, 구글 등과 경찰을 모아 고령자 대상 사기에 대응하는 비영리단체입니다.
36
0
10.22
바이두, 11월 행사에서 샤오두 AI 안경 공개 예정
바이두, 11월 행사에서 샤오두 AI 안경 공개 예정
(퍼플렉시티가 정리한 기사)바이두는 11월 13일 바이두 월드 2025 컨퍼런스에서 샤오두 AI 안경을 공개할 것이며, 판매는 올해 말 시작될 예정이라고 발표했다. 이 기기는 중국 검색 대기업의 급성장하는 AI 웨어러블 시장 진출을 의미하며, 메타 및 알리바바, 바이트댄스를 포함한 다른 중국 기술 대기업들과 직접 경쟁하게 된다.기능은 일상적인 사용을 목표로 합니다샤오두 AI 안경은 바이두의 ERNIE 대형 언어 모델을 기반으로 하며, 1인칭 시점의 영상 촬영, 실시간 질의응답, 칼로리 및 객체 인식, 백과사전 정보 검색, 시청각 번역, 그리고 스마트 알림 기능을 제공합니다. 45그램의 가벼운 무게를 자랑하는 이 기기는 16MP 초광각 카메라와 4마이크로폰 어레이를 탑재하고 있으며, 최대 56시간의 대기 시간을 약속합니다.​업계 보고서에 따르면, 바이두는 2024 월드 컨퍼런스에서 처음으로 이 안경을 공개했으나 상업적 출시를 연기했습니다. 바이두는 이 기기를 "중국 대형 언어 모델로 구동되는 세계 최초의 네이티브 AI 안경"으로 위치 지우고 있습니다.AI 안경 시장에서 증가하는 경쟁바이두의 진출로 폭발적 성장을 보인 시장에서 경쟁이 치열해지고 있다. 2025년 상반기 글로벌 스마트 안경 출하량은 두 배 이상 증가했으며, AI 기반 모델이 전체 출하량의 78%를 차지했다. 메타는 현재 Ray-Ban과의 협업을 통해 73% 이상의 시장 점유율로 시장을 지배하고 있지만, 중국 제조업체들이 빠르게 추격하고 있다.​알리바바는 연말까지 Quark AI 안경을 출시한다고 발표했으며, 알리페이 결제 및 타오바오 가격 비교를 포함한 회사 생태계와의 통합 기능을 제공할 예정이다. 한편, 바이트댄스도 자체 AI 안경을 개발 중인 것으로 알려졌지만, 출시 일정은 확정되지 않았다. 경쟁업체들의 유입으로 업계 관찰자들은 2025년을 "수백 가지 스마트 안경의 전쟁"이 될 것으로 예측하고 있다.​이러한 시기는 중국 기술 기업들이 스마트폰과 기존 컴퓨팅 기기를 넘어 신흥 시장에서 입지를 구축하기 위해 경쟁하는 가운데, 바이두의 AI 하드웨어 진출 확대와 맞물려 있다.
32
0
10.22
알고리즘이 취약 계층을 배제하여 정보 격차를 악화시킨다는 연구 결과
알고리즘이 취약 계층을 배제하여 정보 격차를 악화시킨다는 연구 결과
(퍼플렉시티가 정리한 기사)PNAS Nexus에 발표된 새로운 연구에 따르면, 소셜 네트워크에서 영향력 있는 사람들을 식별하도록 설계된 알고리즘이 특정 집단을 뒤처지게 만드는 정보 격차를 의도치 않게 만들 수 있다고 합니다. 이 연구는 이러한 알고리즘이 메시지 도달 범위를 극대화하는 데는 뛰어나지만, 취약한 인구 집단을 중요한 정보 수신에서 체계적으로 배제함으로써 기존의 사회적 불평등을 악화시킬 수 있다고 밝혔습니다.표준 알고리즘은 정보 격차를 만든다Vedran Sekara가 이끄는 연구팀은 마을의 가구 연결망, 정치 블로거 네트워크, 페이스북 친구 관계, 과학 협력 관계를 포함한 다양한 실제 소셜 네트워크에서 영향력 극대화 알고리즘을 테스트했습니다. 독립 캐스케이드 모델을 사용한 결과, 확산만을 극대화하는 데 집중하는 알고리즘은 특정 외부 집단이 중요한 메시지를 지속적으로 놓치게 되는 정보 격차를 만든다는 것을 발견했습니다.​이 연구는 이렇게 간과된 개인들을 "취약 노드"로 식별합니다. 이들은 알고리즘이 영향력 있는 네트워크 구성원을 통해 최대한 많은 사람들에게 도달하는 것을 우선시할 때 체계적으로 배제되는 사람들입니다. 이 발견은 공평한 정보 배포가 필수적인 공중 보건 캠페인, 사회 서비스 지원 활동, 긴급 통신에 중요한 시사점을 제공합니다.더 공정한 알고리즘이 가능성을 보여주다이러한 불평등을 해결하기 위해 연구자들은 정보 확산과 공정성을 모두 극대화하도록 설계된 다목적 알고리즘을 개발했습니다. 이 접근법은 표준 방법이 일반적으로 간과하는 네트워크 노드에 정보가 도달하도록 보장하려고 시도합니다. 보다 공정한 타겟팅 방법은 거의 동일한 전체 도달 범위를 유지하면서 취약한 노드를 6%에서 10% 줄이는 결과를 가져왔습니다.​이 연구는 디지털 플랫폼 전반에 걸친 알고리즘 편향에 대한 인식이 높아지는 가운데 이루어졌습니다. 이동성 데이터에 대한 Sekara의 광범위한 연구는 유사한 패턴을 드러냈으며, 알고리즘이 종종 부유하고 교육받은 인구를 선호하는 반면 여성, 노인, 어린이를 과소 대표하는 것으로 나타났습니다. Sekara의 이전 연구에 따르면, 일부 데이터셋에서 이동성 데이터의 절반은 가장 부유한 20%의 인구에서 나오는 반면, 가장 가난한 20%에서는 단 5%만 발생합니다.​알고리즘이 사회를 통해 정보가 확산되는 방식을 점점 더 형성함에 따라, 이 연구는 효율성과 함께 공정성을 우선시하는 것이 도달 범위를 크게 손상시키지 않으면서 디지털 불평등을 줄이는 데 도움이 될 수 있음을 시사합니다.
36
0
10.22
AI 콘텐츠가 레딧을 범람하며 커뮤니티 문화 위협
NOW
AI 콘텐츠가 레딧을 범람하며 커뮤니티 문화 위협
(퍼플렉시티가 정리한 기사)Reddit는 정교한 AI 생성 콘텐츠가 커뮤니티에 쏟아지면서 "인터넷에서 가장 인간적인 공간"이라는 정체성에 전례 없는 도전에 직면하고 있으며, 이로 인해 자원봉사 운영자들은 온라인에서 진정한 참여가 무엇을 의미하는지 재정의해야 하는 상황에 놓였습니다.코넬 대학교의 새로운 연구는 Reddit 운영자들이 AI 생성 콘텐츠를 플랫폼의 핵심 가치에 대한 "삼중 위협"으로 보고 있으며, 이는 콘텐츠 품질을 저하시키고, 사회적 역학을 방해하며, 거의 불가능한 거버넌스 과제를 만들어낸다고 밝혔습니다.중재자들은 탐지와 집행에 어려움을 겪고 있다노르웨이 베르겐에서 열린 ACM SIGCHI 컴퓨터 지원 협업 작업 컨퍼런스에서 발표된 이 연구는 10명에서 3,200만 명에 이르는 회원 수를 가진 100개 이상의 서브레딧을 관리하는 15명의 운영자를 인터뷰했다. Reddit의 광대한 커뮤니티 생태계를 공동으로 관리하는 이들 자원봉사자들은 AI 게시물을 인간처럼 보이지만 진정한 통찰력이 부족한 "장황하지만 영혼 없는" 콘텐츠로 묘사했다.​r/explainlikeimfive의 한 운영자는 "가장 위협적인 우려 사항으로 평가하겠다"고 말했다. "감지하기 어려운 경우가 많고 사이트의 실제 운영에 매우 방해가 된다고 본다".​이 문제는 단순한 스팸 탐지를 넘어선다. 운영자들은 반복적인 문구와 AI 작성을 나타낼 수 있는 문체상의 이상함을 발견하기 위해 직관에 의존하며 콘텐츠를 수동으로 검토하는 데 몇 시간을 소비한다고 보고한다. Reddit의 AutoModerator와 같은 자동화된 필터조차도 뉘앙스를 다루는 데 어려움을 겪으며, 종종 오탐을 생성하여 진정한 사용자, 특히 영어가 모국어가 아닌 사용자들을 소외시킬 위험이 있다.플랫폼, 진정성 보존을 위해 분투하다Reddit CEO Steve Huffman은 2025년 5월 위기를 인정하며, 인간과 AI 봇을 구별하기 위해 제3자 검증 서비스와 협력할 계획을 발표했습니다. 이 플랫폼은 사용자 익명성을 유지하면서 인간 증명을 위해 Sam Altman의 생체인식 기반 디지털 신원 시스템인 World ID를 고려하고 있는 것으로 알려졌습니다.​"인간 검증은 현재 우리의 최우선 과제입니다"라고 Huffman은 6월 Financial Times에 말했습니다. "올해 남은 기간 동안 우리는 이를 발전시킬 것입니다. 이는 인터넷 전반에 걸친 필요사항입니다".​연구자들이 Reddit의 "Change My View" 서브레딧에 AI 봇을 투입하여 다양한 페르소나를 채택하며 1,700개 이상의 댓글을 게시한 후 긴급성이 명백해졌습니다. 이 사건은 Reddit의 사용자 식별 프로세스의 취약점을 드러냈고 AI가 어떻게 진정한 담론을 조작할 수 있는지를 강조했습니다.커뮤니티들이 AI 사용에 대해 강경한 입장을 취하다개별 서브레딧들은 자체적인 제한 조치를 시행하기 시작했습니다. r/WritingPrompts 같은 커뮤니티는 인간의 창의성을 보존하기 위해 AI를 전면 금지한 반면, r/AskHistorians 같은 다른 커뮤니티들은 진정한 전문성을 뒷받침할 때 제한적인 사용을 허용하고 있습니다. 2025년 6월 r/productivity에 게시된 글은 AI 생성 콘텐츠에 대한 전면 금지를 발표했으며, 콘텐츠 품질 저하에 좌절한 사용자들로부터 1,200개 이상의 추천을 받았습니다.​코넬 대학교 연구에 따르면 2023년 7월부터 2024년 11월 사이 Reddit 커뮤니티 전반에서 AI 규칙이 두 배 이상 증가했으며, 더 큰 서브레딧일수록 제한 조치를 시행할 가능성이 훨씬 더 높았습니다. 시각적 콘텐츠를 자주 공유하는 예술 및 유명인 중심 커뮤니티들은 AI 생성 이미지와 동영상에 대해 특히 우려를 나타냈습니다.​Reddit 창립자 Alexis Ohanian이 2025년 10월에 경고했듯이, 인터넷의 상당 부분이 "봇으로 가득 차거나" "준(準)-AI화"되어, 한때 "진정한 인간 연결의 공간"이었던 것이 점점 더 "비인간적인" 것으로 변모하고 있습니다. 이제 플랫폼의 과제는 AI로 포화된 디지털 환경에 적응하면서도 플랫폼의 명성을 구축한 진정한 인간의 목소리를 보존하는 데 있습니다.
37
0
10.22
회원가입
아이디/비밀번호 찾기