알트만, Sora 2가 혐오 콘텐츠를 확산시키면서 딥페이크 위험성 경고

(퍼플렉시티가 정리한 기사)

OpenAI CEO Sam Altman은 Sora 2 출시 이후 AI로 생성된 딥페이크의 잠재적 위험성에 대해 강력한 경고를 발표했습니다. Sora 2는 소셜 미디어에서 수십만 개의 '좋아요'를 받은 홀로코스트 부정 영상을 포함한 논란의 여지가 있는 콘텐츠를 생성했음에도 불구하고 빠르게 Apple의 앱스토어에서 1위 앱이 되었습니다.

최근 Andreessen Horowitz와의 팟캐스트에서 Altman은 딥페이크 기술로 인해 "정말 나쁜 일들"이 발생할 것에 대한 우려를 표명했습니다. "여전히 정말 이상하거나 무서운 순간들이 있을 것이라고 생각합니다"라고 Altman은 말했습니다. "이전 기술들에서도 일어났던 것처럼, 이 기술 때문에 정말 나쁜 일들이 일어날 것으로 예상합니다."

최근 단속은 유명인사 불만 제기에 따른 것

이번 주, OpenAI는 배우 브라이언 크랜스턴과 SAG-AFTRA가 무단 유명인 딥페이크에 대한 우려를 제기한 후 Sora 2에 대한 보호 장치를 강화한다고 발표했습니다. 크랜스턴은 자신의 목소리와 초상이 동의 없이 AI 생성 영상에 복제된 것을 발견했고, 이로 인해 회사, 배우 조합, 주요 에이전시 간의 공동 협의가 이루어졌습니다.​

"저는 제 자신뿐만 아니라 이러한 방식으로 작품과 정체성이 오용될 수 있는 모든 공연자들을 위해 깊이 우려했습니다"라고 크랜스턴은 월요일에 발표된 공동 성명에서 말했습니다. OpenAI는 또한 마틴 루터 킹 주니어의 유산 관리 측이 민권 운동 지도자에 대한 "무례한 묘사"에 대해 항의한 후 그의 AI 생성 영상을 차단했습니다.

논란의 여지가 있는 콘텐츠가 빠르게 퍼진다

글로벌 증오 및 극단주의 반대 프로젝트(Global Project Against Hate and Extremism)의 보고서에 따르면, 소라 2(Sora 2)는 홀로코스트 부정 콘텐츠를 제작하는 데 사용되어 인스타그램에서 엄청난 관심을 받은 것으로 나타났다. 홀로코스트 희생자를 암시하는 "600만 개의 크래비 패티"에 대해 스폰지밥 캐릭터들이 이야기하는 한 영상은 6일 만에 80,000개 이상의 좋아요를 받았다.​

플랫폼은 또한 아돌프 히틀러를 다양한 상황에서 묘사한 콘텐츠도 생성했는데, 그 중 일부는 비디오 게임 스트리머로 등장하는 등, 여러 영상이 소셜 미디어에서 90,000개가 넘는 좋아요를 얻었다. 이 밖에도 유대인 혐오와 여성 혐오가 담긴 영상들이 오픈AI의 이용 정책에도 불구하고 입소문을 타며 확산되었다.​

이러한 우려에도 불구하고, 올트먼은 공개 출시가 사회가 AI 기술과 '공진화(co-evolve)'하는 데 필요하다고 옹호했다. 그는 한 팟캐스트에서 "곧 세상은 누구든 딥페이크할 수 있는 놀라운 비디오 모델과 원하는 어떤 장면도 보여줄 수 있는 모델을 맞이하게 될 것"이라고 설명했다. "비디오가 글보다 정서적으로 훨씬 더 강렬한 울림을 지니기 때문에, 세상이 영상의 변화가 얼마나 빠른지 이해하는 것이 매우 중요하다고 생각합니다."