Loading...

AI 뉴스

연구에 따르면, 바이럴 소셜 미디어 게시물이 AI 모델 열화

페이지 정보

작성자 xtalfi
작성일 2025.10.22 16:32
2,076 조회
1 댓글
0 추천
0 비추천

본문

AI-Chip-Credit-Jernej-Furman-CC-BY-2.0.jpg

(퍼플렉시티가 정리한 기사)

획기적인 연구에 따르면 인공지능 시스템이 바이럴 소셜 미디어 콘텐츠에 노출되면 되돌릴 수 없는 "브레인 로트(뇌손상)"가 발생하여 추론 능력이 크게 저하되고 인간의 과도한 소셜 미디어 소비에서 나타나는 반사회적 인격 특성이 발달할 수 있다고 밝혀졌습니다.

이 연구는 텍사스 오스틴 대학교, 텍사스 A&M 대학교, 퍼듀 대학교의 과학자들이 10월 20일에 발표했으며, 참여 중심의 소셜 미디어 게시물로 학습된 대형 언어 모델이 표준 재훈련 방법으로는 완전히 복구될 수 없는 지속적인 인지적 손상을 겪는다는 점을 보여주었습니다.

 

극적인 성과 저하가 관찰됨

 

통제된 실험에서 연구진은 네 가지 AI 모델에 트위터/X 게시물로 구성된 데이터셋을 제공하며, 높은 참여도를 보이는 바이럴 콘텐츠와 더 길고 신중하게 작성된 게시글을 비교했다. 결과는 매우 놀라웠다. 100% 바이럴 콘텐츠에 노출된 모델은 벤치마크 테스트에서 추론 정확도가 74.9%에서 57.2%로 급락했고, 장기 맥락 이해도는 84.4%에서 52.3%로 떨어졌다.​

연구진은 “웹상의 저급 텍스트에 지속적으로 노출되면 대형 언어 모델에서 지속적인 인지 저하가 발생한다”라고 썼으며, 이 현상을 설명하기 위해 ‘LLM Brain Rot Hypothesis(대형 언어 모델 뇌 부패 가설)’라는 용어를 만들었다. 연구 결과, 좋아요·공유·리트윗 같은 참여도 지표가 실제 콘텐츠의 의미적 품질보다 AI의 인지 기능에 더 해로웠으며, 이는 소셜 미디어가 인간에게 중독성이 있는 것과 동일한 알고리즘적 역학이 AI의 추론 과정도 해친다는 것을 시사한다.​

모델들은 ‘생각 건너뛰기(thought skipping)’라고 부르는 실패 패턴을 보였는데, 이는 추론 과정에서 중간 논리 단계를 거치지 않고 결론으로 곧장 뛰어넘는 방식이다. 인지 저하뿐 아니라, AI 시스템은 성격 면에서도 문제가 있는 변화를 보였으며, 자기애와 정신병 성향 점수가 높아지고, 친화성과 성실성 점수는 낮아졌다.

 

회복 시도가 불충분함이 드러나다

 

아마도 가장 우려되는 점은, 손상된 모델을 복구하려는 시도가 대체로 성공하지 못했다는 것입니다. 고품질 데이터와 지침 튜닝을 통한 광범위한 재학습 후에도, AI 시스템들은 본래의 능력을 완전히 회복하지 못했습니다. 연구자들은 이를 "표현 드리프트(representational drift)"—모델이 내부적으로 정보를 조직하는 방식에 근본적인 변화가 생겨, 표준 파인튜닝으로는 되돌릴 수 없다는 것—라고 설명했습니다.​

"브레인 로트(brain rot)는 모델이 내부적으로 정보를 나타내는 방식에 지속적인 변화를 일으켰으며, 이는 구조적인 손상으로 완전히 되돌릴 수 없었습니다,"라고 연구 결과 분석에서 밝혔습니다. 이 발견은 데이터 품질을 단순한 성능의 문제가 아니라, AI 시스템이 점점 더 다른 AI가 만든 콘텐츠로부터 학습하는 오늘날, 연구자들이 "좀비 인터넷"이 될 수 있다고 경고하는 상황에서 중요한 안전 이슈로 재정의하고 있습니다.​

이번 연구의 시사점은 학계를 넘어, 상용 AI 시스템이 최신 상태를 유지하기 위해 지속적으로 새로운 웹 콘텐츠를 학습하는 현실에서, 그 훈련 방식에 대한 시급한 질문을 제기합니다. 연구진은 배포된 AI 시스템에 대한 정기적인 "인지 건강 점검"을 실시하고, 누적 손상을 방지하기 위해 학습 중 더 엄격한 데이터 품질 관리를 도입할 것을 권장했습니다.

댓글 1

xtalfi님의 댓글

작성자 xtalfi
작성일 2025.10.22 16:33
뿐 아니라, 이미 인간들 뇌도 썩고 있음.
전체 1,366 / 252 페이지
(퍼플렉시티가 정리한 기사)Amazon은 워싱턴주에 건설할 Cascade Advanced Energy Facility의 상세 계획과 건축 렌더링을 공개하며, 이 거대 기술 기업의 야심찬 원자력 에너지 프로그램에서 중요한 이정표를 세웠습니다. 10월 15일에 공개된 이 시설은 총 960메가와트 용량의 소형 모듈형 원자로 12기를 갖추게 되며, 이는 약 770,000가구에 전력을 공급할 수 있는 규모입니다.​이 프로젝트는 1년 전 발표된 Amazon의 원래 원자력 계획을 3배로 확대한 것으로, 인공지능 및 클라우드 컴퓨팅 운영을 위한 무탄소 에너지원에 대한 회사의 증가하는 의지를 보여줍니다. 건설은 이번 10년대 말까지 시작될 것으로 예상되며, 운영은 2030년대에 개시될 예정입니다.기술 산업의 원자력 전환아마존의 발표는 주요 기술 기업들의 전례 없는 원자력 투자 물결 속에서 나왔습니다. Microsoft는 Three Mile Island의 1호기 원자로를 재가동하기 위한 20년 계약을 체결했으며, Google은 첨단 원자로 개발업체들과의 파트너십을 통해 새로운 원자력 시설에 자금을 지원하기로 약속했습니다. Meta는 최근 일리노이 시설에서 1.1기가와트를 공급받기 위해 Constellation Energy와 20년 원자력 전력 계약을 체결했습니다.​원자력 투자 급증은 2030년까지 미국 전체 전력의 최대 9%를 소비할 수 있는 AI 데이터 센터의 막대한 에너지 수요를 반영합니다. "이 프로젝트는 단순히 새로운 기술에 관한 것이 아닙니다. 성장하는 디지털 세계를 지원할 신뢰할 수 있는 무탄소 에너지원을 만드는 것입니다"라고 아마존의 최고 지속가능성 책임자인 Kara Hurst가 말했습니다.모듈형 기술과 경제적 영향Cascade 시설은 X-energy의 Xe-100 고온 가스 냉각 원자로를 활용할 예정이며, 각 원자로는 80메가와트의 전력을 생산합니다. 기가와트 용량을 위해 1평방마일 이상을 차지할 수 있는 전통적인 원자력 발전소와 달리, 모듈식 설계로 인해 960메가와트 시설을 단 몇 개의 도시 블록 내에 배치할 수 있습니다.​이 프로젝트는 건설 최성수기 동안 1,000개 이상의 건설 일자리를 창출하고, 완전 가동 시 100개 이상의 정규직 일자리를 만들 것입니다. Amazon은 X-energy에 5억 달러를 투자했으며, Climate Pledge Fund를 통해 초기 타당성 조사, 허가 및 라이선스 단계에 대한 자금 지원을 약속했습니다.​워싱턴주 리치랜드에 위치한 Energy Northwest의 Columbia 발전소 근처에 위치한 이 시설은 각각 4개의 원자로로 구성된 3단계로 건설될 예정입니다. Amazon은 초기 320메가와트 단계에서 전력을 구매할 권리를 가지며, 추가 용량은 지역 전력 회사에서 이용할 수 있습니다.
2556 조회
0 추천
2025.10.18 등록
(퍼플렉시티가 정리한 기사)OpenAI CEO 샘 올트먼은 ChatGPT가 곧 모든 인간 상호작용을 합친 것보다 더 많은 일일 대화를 수행할 것이라는 놀라운 예측을 내놓았으며, 이는 AI 투자 버블에 대한 업계 우려가 커지는 가운데 AI 챗봇의 폭발적인 성장 궤도를 강조하는 것이다.야심찬 성장 전망이 업계 논쟁을 촉발하다샌프란시스코에서 최근 열린 기자들과의 만찬에서 올트먼은 "하루에 수십억 명의 사람들이 ChatGPT와 대화하게 될 것"이며, 이 플랫폼이 "언젠가는 모든 인간의 말을 합친 것보다 더 많은 대화를 나누게 될 것"이라고 전망했다. 이 대담한 예측은 ChatGPT가 이미 주간 활성 사용자 8억 명을 달성하고 매일 25억 건 이상의 메시지를 처리하고 있는 상황에서 나왔다.​이 예측은 OpenAI가 2025년 8월 큰 기대를 모았던 GPT-5 모델을 출시했지만 엇갈린 평가를 받은 격동의 시기 이후에 나온 것이다. 사용자들은 새 버전이 이전 버전인 GPT-4o보다 "더 냉담하고" 친근감이 덜하다고 불평했으며, 이에 회사는 상당한 반발 이후 일시적으로 구 모델에 대한 접근을 복원했다. 올트먼은 회사가 "어조 변화에 대해 사람들이 어떻게 느낄지 잘못 판단했다"고 인정하며 다양한 사용자 선호도를 수용하기 위한 더 많은 맞춤화 옵션을 약속했다.전례 없는 성장 궤적이 지속되다ChatGPT의 사용자 기반은 2022년 11월 출시 이후 폭발적으로 증가했으며, 단 두 달 만에 1억 명의 사용자를 확보하며 역사상 가장 빠르게 성장한 소비자 애플리케이션이 되었습니다. 이 플랫폼의 성장은 2025년에 극적으로 가속화되어, 2월 주간 사용자 4억 명에서 10월까지 8억 명으로 급증했습니다. 이는 전 세계 성인 인구의 10% 이상이 매주 이 서비스를 사용하고 있음을 나타냅니다.​대화량은 사용자 수보다 훨씬 빠르게 증가했으며, 지난 1년 동안 일일 메시지가 5.8배 증가한 반면 사용자는 3.2배 증가하여 기존 사용자들의 참여도가 더 깊어졌음을 보여줍니다. 참고로, Google은 하루에 약 85억 건의 검색을 처리하는데, 이는 현재 성장세가 지속될 경우 ChatGPT가 이론적으로 1년 내에 Google의 검색량에 필적할 수 있음을 의미합니다.대규모 인프라 투자로 거품 우려 제기OpenAI의 야심찬 성장 전망은 전례 없는 재정적 약속으로 뒷받침됩니다. 최근 주식 매각으로 5,000억 달러의 가치를 인정받은 이 회사는 Oracle 및 SoftBank와의 Stargate 프로젝트와 같은 이니셔티브를 통해 데이터 센터에 "수조 달러"를 투자할 것으로 예상합니다. 이러한 거래에는 5년에 걸친 Oracle과의 3,000억 달러 계약과 AI 관련 계약에서 1조 달러 이상의 가치를 지닌 파트너십이 포함됩니다.​그러나 투자 규모는 AI 부문이 버블 상태에 있는지에 대한 논쟁을 촉발시켰습니다. Bank of America 설문조사에 따르면 투자자의 54%가 AI 주식이 버블 영역에 있다고 믿는 것으로 나타났습니다. 비평가들은 1990년대 후반 닷컴 붐을 연상시키는 순환 금융 구조를 지적하며, 공급업체와 고객이 실제 가치를 창출하지 않으면서 서로의 가치 평가를 강화한다고 주장합니다. 이러한 우려에도 불구하고 Altman은 현재 상황을 인터넷 붐에 비유하며 낙관적인 태도를 유지하고 있으며, "누군가는 엄청난 금액의 돈을 잃게 될 것"이라고 인정하면서도 AI의 장기적인 경제적 이익에 대한 확신을 표명했습니다.
2575 조회
0 추천
2025.10.18 등록
(퍼플렉시티가 정리한 기사)테슬라는 연방 조사관들이 교통 위반으로 이 기술에 대한 조사를 시작한 지 불과 일주일 만에, 제한 속도를 초과하는 속도와 빈번한 차선 변경을 특징으로 하는 가장 공격적인 "매드 맥스" 주행 프로필을 완전 자율주행 시스템에 다시 도입했습니다.10월 15일 FSD v14.1.2 소프트웨어 업데이트에서 출시된 이 논란의 여지가 있는 기능은 테슬라의 릴리스 노트에 따르면 시스템이 "HURRY보다 더 높은 속도와 더 빈번한 차선 변경으로" 주행할 수 있게 합니다. 출시 24시간 이내에 초기 사용자들은 매드 맥스 모드가 제한 속도보다 15mph 이상 빠르게 주행하고 구르면서 정지하는 현상을 보고했습니다.타이밍이 규제 당국의 의구심을 불러일으키다Mad Max 출시는 테슬라의 자율주행 시스템에 대한 규제 압력이 높아지는 가운데 이루어졌습니다. 10월 9일, 미국 도로교통안전국(NHTSA)은 FSD가 교통안전법을 위반했다는 58건의 보고를 받은 후 288만 대의 테슬라 차량에 대한 조사에 착수했습니다. 이 조사는 테슬라 차량이 적색 신호를 무시하고, 반대 차선으로 진입하며, 운전자에게 적절한 경고를 제공하지 않아 14건의 충돌 사고와 23명의 부상자를 발생시킨 사건들에 따른 것입니다.​테슬라는 이전에 2022년 구르는 정지(rolling stops)를 수행한다는 이유로 FSD 베타를 리콜해야 했는데, 이는 현재 Mad Max 모드가 보여주는 행동입니다. Electrek은 "테슬라는 불장난을 좋아한다"고 언급하며, 여러 연방 조사를 받고 있는 상황에서 공격적인 이름의 기능을 출시하기로 한 회사의 결정을 지적했습니다.법적 분쟁이 증가하다테슬라의 최근 법적 좌절을 고려할 때 이번 시기는 특히 대담해 보입니다. 8월, 플로리다 배심원단은 2019년 오토파일럿 사고 피해자들에게 2억 4,300만 달러를 배상하도록 판결했으며, 이는 테슬라가 운전자 보조 시스템과 관련된 과실치사에 대해 부분적 책임을 인정받은 첫 사례입니다. 그 판결 이후 테슬라는 유사한 재판을 피하기 위해 최소 두 건의 다른 과실치사 소송을 조용히 합의했습니다.​테슬라는 "오토파일럿"과 "완전 자율주행" 기능에 대한 오해를 불러일으키는 마케팅과 관련하여 캘리포니아 차량국(DMV)으로부터 진행 중인 소송에 직면해 있으며, 판사는 몇 개월 내에 사건을 판결할 것으로 예상됩니다. 또한 회사는 수천 달러를 지불한 고객들에게 FSD 기능을 허위로 설명했다고 주장하는 집단 소송에 대해서도 방어하고 있습니다.​규제 감독에도 불구하고, 테슬라의 AI 책임자인 애쉬크 엘루스와미는 매드 맥스 모드가 "주간 혼잡한 교통 상황"을 위해 설계되었다고 옹호하며, 사용자들에게 의사결정 능력을 보여줄 수 있는 "낮 시간/더 밀집된 교통 상황에서 더 좋아할 것"이라고 말했습니다.
2224 조회
0 추천
2025.10.18 등록
(퍼플렉시티가 정리한 기사)Stellantis와 중국 자율주행 기업 Pony.ai는 오늘 유럽 전역에 로보택시를 배치하기 위한 파트너십을 발표했으며, 이는 자율주행 차량 시장의 경쟁이 심화되는 가운데 네덜란드 자동차 제조업체와 주요 중국 로보택시 운영업체 간의 첫 번째 협력을 의미합니다.​양사는 Pony.ai의 자율주행 소프트웨어를 Stellantis의 중형 전기 밴 플랫폼과 통합하기 위한 법적 구속력이 없는 양해각서를 체결했으며, 특히 Stellantis가 Pro One 상용차 부문을 통해 유럽에서 선도적 위치를 차지하고 있는 경형 상용차 부문을 목표로 하고 있습니다.룩셈부르크에서 테스트 시작초기 테스트는 Peugeot e-Traveller 모델을 사용하여 앞으로 몇 달 내에 룩셈부르크에서 시작될 예정이며, 두 회사는 2026년부터 유럽 도시 전역에 걸쳐 점진적인 출시를 계획하고 있습니다. 룩셈부르크는 Pony.ai의 유럽 지사 본부이며, 간소화된 규제 환경을 갖춘 유럽의 자율주행 모빌리티 허브로 자리매김했습니다.​Stellantis의 최고 엔지니어링 및 기술 책임자인 Ned Curic은 "무인 자동차는 우리 도시에서 사람들이 이동하는 방식을 변화시킬 잠재력을 가지고 있으며, 지역 사회에 더 안전하고 저렴한 옵션을 제공합니다"라고 말했습니다. 이 파트너십은 손을 떼고 눈을 뗀 상태로 운행이 가능한 SAE 레벨 4 자율주행 기능을 위해 설계된 Stellantis의 AV-Ready 플랫폼을 활용합니다.중국의 유럽 진출이번 발표는 중국 로보택시 기업들이 해외 진출을 가속화하는 가운데 나왔다. Pony.ai는 유럽 시장을 목표로 하는 경쟁사 Baidu 및 WeRide와 합류하며, Baidu는 내년 독일과 영국에 로보택시를 배치하기 위해 Lyft와 파트너십을 맺었다. WeRide는 이미 프랑스와 싱가포르를 포함한 10개국 30개 이상의 도시에서 운영 중이다.​Pony.ai는 현재 500대 이상의 로보택시를 운영하고 있으며 베이징, 광저우, 선전을 포함한 중국 주요 도시에서 연중무휴 상업 운영을 달성했다. 이 회사는 자사의 자율주행 시스템이 5천만 킬로미터 이상의 테스트를 거쳐 인간 운전자보다 최대 10배 우수한 안전 기록을 달성했다고 주장한다.​유럽 로보택시 시장은 2024년 3억 9,460만 달러에서 2030년까지 86억 달러로 성장할 것으로 예상되며, 이는 연평균 72.7%의 성장률을 나타낸다. 이러한 급속한 확장은 전 세계 기업들이 자율주행 차량 서비스를 구축하기 위해 경쟁하는 가운데 이루어지고 있으며, Waymo도 2026년까지 런던에서 테스트를 진행할 계획을 발표했다.
2247 조회
0 추천
2025.10.18 등록
홈으로 전체메뉴 마이메뉴 새글/새댓글
전체 검색
회원가입