닐 타이슨, 딥페이크를 이용해 AI 기만 위험성 경고

(퍼플렉시티가 정리한 기사)

저명한 천체물리학자 닐 디그래스 타이슨(Neil deGrasse Tyson)이 이번 주 자신의 StarTalk 유튜브 쇼의 최근 에피소드에서 "지구가 실제로 평평할 수도 있다"고 거짓으로 주장하는 설득력 있는 AI 생성 딥페이크 영상을 공유하여 시청자들을 놀라게 했다. 소셜 미디어 플랫폼 전반에 걸쳐 빠르게 확산된 이 시연은 딥페이크 기술의 증가하는 정교함과 심지어 지적인 청중까지도 오도할 수 있는 잠재력을 강조하기 위해 고안되었다.​​

"무엇이 진짜인지 알기가 점점 더 어려워지고 있다"라는 제목의 이 영상은 타이슨 본인으로 보이는 인물이 충격적인 반과학적 발언을 하는 것으로 시작되었고, 이후 실제 천체물리학자가 화면에 나타나 속임수를 밝혔다. "저게 저는 아닙니다," 타이슨은 침착하게 말했다. "결코 저였던 적이 없습니다. 그것들은 제 말이 아닙니다".​

유명인 피해자와 탐지 과제

타이슨은 딥페이크가 너무나 정교해져서 배우 테리 크루스를 포함한 그의 절친한 친구들조차 속이고 있다고 밝혔다. StarTalk 에피소드에서 타이슨은 크루스가 인터스텔라 사운드트랙에 맞춰 천체물리학자가 우주 문명에 대해 논의하는 조작된 영상에 대해 자신에게 메시지를 보냈던 일화를 회상했다. 에피소드 설명에 따르면 "테리 크루스는 가짜 빅뱅 영상에 대해 나에게 문자를 보냈지만, 닐은 테리가 속았다는 것을 깨달았다".​​

이 천체물리학자는 초기 딥페이크가 명백한 패러디로서 받아들일 만했지만, 시청자들이 그것을 현실과 구별할 수 없을 때 최신 버전은 윤리적 경계를 넘는다고 설명했다. 타이슨은 "초기 것들은 패러디라면 괜찮다"고 말했다. "하지만 이것을 만들었는데 시청자가 그것이 패러디인지 모른다면, 그것은 선을 넘는 것이다".

사이버 보안 전문가, 광범위한 위협 경고

이번 에피소드에서는 Bitdefender의 최고 보안 전략가 알렉산드루 코소이가 출연해, 딥페이크 기술이 점점 더 정교해지는 사기 수법에 어떻게 악용되고 있는지 설명했습니다. 코소이는 딥페이크가 활용된 사기 유형을 세 가지 주요 카테고리로 구분했습니다: 연애 및 투자 사기, 홍콩의 직원들이 가짜 화상회의 중 2,500만 달러를 송금한 사례를 포함한 비즈니스 이메일 침해 공격, 그리고 가족의 목소리를 복제해 친척인 척 가장하는 가족 곤란 사기.​​

코소이에 따르면, 정치 관련 딥페이크가 가장 체계적인 위험을 초래한다고 합니다. 그는 러시아-우크라이나 분쟁 초기, 위조된 영상에서 지도자들이 잘못된 항복 발표를 하는 일이 있었다고 언급했습니다. 이러한 전술은 민주적 절차를 목표로 진화하고 있는데, 딥페이크를 이용해 정치인을 곤란한 장면에 등장시키는 영상이 선거 직전에 전략적으로 공개되어 후보자가 법적으로 대응할 수 없는 시점을 노린다고 합니다.​

소셜 미디어 이용자들은 시범의 효과에 크게 놀라움을 표했습니다. 한 시청자는 "딥페이크가 너무 정교해지고 있다. 구분하기가 점점 어렵다"고 했으며, 다른 시청자는 "대박. 솔직히 두 번째 파트도 딥페이크인 줄 알았다"고 인정했습니다. 트위터, 틱톡, 인스타그램 등 여러 플랫폼에서 영상이 빠르게 확산된 사실은 AI가 생성한 콘텐츠와 실제 콘텐츠를 구별하는 것에 대한 대중의 우려를 부각시켰습니다.​

타이슨의 시범은 딥페이크 감지 및 규제의 빠른 발전과 시점이 맞물려 있습니다. 2025년 미국에서는 동의 없는 딥페이크 콘텐츠를 겨냥한 최초의 연방법인 TAKE IT DOWN 법이 제정되었으며, 현재 47개 주가 딥페이크 관련 법률을 통과시켰습니다. 한편, Sensity와 Reality Defender 등 기업의 AI 감지 툴은 95~98%의 정확도를 보고하지만, 전문가들은 딥페이크 생성 기술과의 경쟁이 여전히 이어지고 있다고 경고합니다.