허리케인 멜리사 이후 AI 딥페이크가 소셜 미디어에 범람

(퍼플렉시티가 정리한 기사)

허리케인 멜리사가 이번 주 기록적인 강풍으로 자메이카를 강타하면서, AI로 생성된 허위 정보의 폭풍이 소셜 미디어 플랫폼을 범람시켜 카테고리 5 허리케인의 실제 피해에 대한 광범위한 혼란을 야기했습니다. 호텔 수영장에서 헤엄치는 상어, 황폐화된 공항, 조작된 구조 장면을 묘사한 가짜 동영상들이 TikTok, X, Instagram, Facebook에서 수백만 조회수를 기록하며, 당국과 팩트체커들의 긴급 경고를 촉발했습니다.

OpenAI가 새롭게 출시한 Sora 2 텍스트-투-비디오 생성기를 사용하여 제작된 인공 콘텐츠의 홍수는 자연재해 위기 상황에서 AI로 생성된 허위 정보가 어떻게 확산되는지에 대한 첫 번째 주요 시험대를 나타냅니다. 많은 동영상에는 명확한 Sora 워터마크가 있었지만, 다른 동영상들은 시청자를 속이려는 명백한 시도로 식별 표시가 제거되거나 잘려나갔습니다.​

플랫폼들이 가짜 콘텐츠 삭제에 분주하다

틱톡은 뉴스 기관들로부터 경고를 받은 후 20개가 넘는 AI 생성 허리케인 영상을 삭제했으나, 오해를 불러일으키는 콘텐츠는 여전히 여러 플랫폼에 널리 퍼지고 있다. 한 화제가 된 영상에서는 네 마리 상어가 자메이카의 한 호텔 수영장에서 헤엄치는 모습이 포착됐다고 주장하며, 명백히 조작된 것임에도 불구하고 수 시간 만에 조회 수가 200만 회를 넘었다. 또 다른 인기 가짜 영상은 킹스턴 공항이 폭풍으로 완전히 파괴된 모습을 그렸으나, 실제로 그런 일은 일어나지 않았다.​

"저는 정말 많은 왓츠앱 그룹에 있는데, 이런 영상들이 계속 들어옵니다. 그중 상당수가 가짜입니다." 자메이카 교육부 장관 다나 모리스 딕슨은 월요일 이렇게 경고하며, 시민들에게 공식 채널에서 정보를 얻을 것을 촉구했다. 특히, AI로 생성된 재난 영상 일부가 멜리사가 화요일 상륙하기 몇 시간 전부터 소셜미디어에 올라오기 시작해 큰 문제를 일으켰다.​

영국 팩트체크 기관인 '풀팩트(Full Fact)'는 AI 탐지 도구를 사용해 의심스러운 콘텐츠를 분석한 결과, 여러 바이럴 이미지는 99.8%의 확률로 인위적으로 생성된 것으로 판명했다. 구글의 SynthID 워터마크 기술도 페이스북과 인스타그램에서 널리 퍼진 가짜 병원 파괴 사진을 식별해냈다.​

가짜 영상에 가려진 실제 재난

조작된 콘텐츠가 소셜 피드를 장악한 동안, 허리케인 멜리사는 카리브해 전역에 실제로 재앙적인 피해를 입혔다. 이 폭풍은 10월 28일 기록상 가장 강력한 대서양 허리케인 중 하나로 자메이카에 상륙했으며, 시속 185마일의 바람으로 자메이카에서 최소 8명이 사망하고 아이티, 쿠바, 도미니카 공화국에서 수십 명이 추가로 사망했다. 25,000명 이상의 자메이카인들이 여전히 응급 대피소에 머물고 있으며, 섬의 77%가 아직도 정전 상태다.​

실제 피해에는 파괴된 주택, 막힌 도로, 침수된 지역사회가 포함되며, 특히 자메이카의 세인트 엘리자베스 교구는 당국자들이 피해의 "폭심지"라고 묘사하는 곳이다. 그러나 전문가들은 AI로 생성된 콘텐츠가 이러한 비상상황에서 중요한 안전 정보를 묻어버릴 위험이 있다고 경고한다.​

오클라호마 대학교의 기상학 교수인 에이미 맥거번은 "이 폭풍은 재앙적인 피해를 초래할 가능성이 높은 중대한 사건이며, 기만적인 콘텐츠는 당국의 대비 촉구라는 중요한 메시지를 훼손한다"고 말했다. 이러한 현상은 현실적인 가짜 영상이 주민들과 언론기관이 촬영한 실제 영상과 구별하기 점점 어려워지면서, 위기 상황에서 AI로 생성된 잘못된 정보에 대한 우려가 커지고 있음을 보여준다.