OpenAI, 불쾌한 콘텐츠로 인해 Sora의 마틴 루터 킹 영상 생성 중단

(퍼플렉시티가 정리한 기사)

OpenAI는 목요일, 마틴 루터 킹 주니어의 유족이 인종차별적이고 모욕적인 콘텐츠를 포함한 "무례한 묘사"에 대해 항의한 후, Sora 플랫폼에서 마틴 루터 킹 주니어를 묘사하는 AI 비디오 생성 기능을 일시적으로 중단했다고 발표했습니다. 이 결정은 MLK의 막내딸인 버니스 킹 박사가 사람들에게 아버지의 AI 생성 비디오 제작을 중단할 것을 공개적으로 촉구한 직접적인 개입에 따른 것입니다.

유족 재단 개입이 정책 변화를 촉구하다

소셜 미디어에 게시된 공동 성명에서 OpenAI와 킹 재단은 "일부 사용자들이 킹 박사의 이미지를 무례하게 묘사한 콘텐츠를 생성했다"고 인정했다. 회사는 "역사적 인물에 대한 보호 장치를 강화하는 동안 킹 박사를 묘사하는 생성을 일시 중단한다"고 밝혔다. 보도에 따르면 특히 충격적인 콘텐츠로는 킹 박사가 유명한 "나에게는 꿈이 있습니다" 연설 중 인종차별적 발언을 하는 가짜 영상과 그를 저속하고 고정관념적인 상황에 묘사한 콘텐츠 등이 있었다.​

9월 30일 출시된 Sora 2가 5일도 채 안 되어 100만 건 이상의 다운로드를 기록하며 무료 iPhone 앱 1위에 오른 후 논란이 확대되었다. 자신의 초상권 사용에 동의해야 하는 생존한 공인들에 대한 보호 장치와 달리, OpenAI는 초기에 사망한 역사적 인물들에 대해서는 그러한 보호 장치를 제공하지 않았다.

가족 반대의 광범위한 패턴

킹 유족의 고소는 고인이 된 유명인사 가족들의 반발이 커지고 있음을 반영합니다. 로빈 윌리엄스의 딸 젤다 윌리엄스는 이달 초 사람들에게 아버지의 AI 영상을 보내지 말라고 요청하는 강력한 인스타그램 호소로 헤드라인을 장식했으며, 이를 "멍청한" 것이며 "그가 원했을 것이 아니다"라고 말했습니다. 그녀는 그러한 콘텐츠를 "실제 사람들의 유산"을 축소시키는 "틱톡 쓰레기 인형극"이라고 묘사했습니다.​​

OpenAI는 이제 "공인과 그 가족들이 궁극적으로 자신의 초상이 어떻게 사용되는지에 대한 통제권을 가져야 한다"고 밝혔으며, "승인된 대리인 또는 유산 소유자"가 Sora의 영상 생성 기능에서 제외를 요청할 수 있도록 허용할 것입니다. 이 정책 변경은 역사적 인물 묘사를 기본적으로 허용했던 회사의 초기 접근 방식에서 상당한 전환을 의미합니다.​