OpenAI, 유명인 딥페이크 논란 이후 Sora 2 강화

(퍼플렉시티가 정리한 기사)

OpenAI는 월요일, 무단으로 제작된 유명인 딥페이크에 대한 광범위한 비판에 따라 Sora 2 비디오 애플리케이션의 보호 조치를 강화할 것이라고 발표했으며, 사용자들이 동의 없이 유명인의 모습을 담은 비디오를 제작한 이후 배우 브라이언 크랜스턴, SAG-AFTRA, 그리고 주요 에이전시들과 합의에 도달했습니다.

이 인공지능 회사는 크랜스턴, 미국 배우 조합-미국 텔레비전 및 라디오 예술가 연맹, 유나이티드 탤런트 에이전시, 크리에이티브 아티스트 에이전시, 그리고 탤런트 에이전트 협회와 공동 성명을 발표하며, 공연자들의 목소리와 초상을 보호하기 위한 "생산적인 협력"을 확인했습니다. 이 해결책은 9월 30일 Sora 2가 출시되고 불과 3주 만에 나온 것으로, 당시 이 앱은 Apple App Store에서 가장 많이 다운로드된 앱 중 하나가 되었습니다.

브라이언 크랜스턴이 업계 반응을 주도하다

"브레이킹 배드"에서의 역할로 가장 잘 알려진 크랜스턴은 앱의 초기 초대 전용 출시 기간 동안 자신의 허락 없이 Sora 2 동영상에서 자신의 음성과 초상이 복제된 것을 발견한 후 SAG-AFTRA에 알렸다. "저는 저 자신뿐만 아니라 이런 식으로 작품과 정체성이 오용될 수 있는 모든 출연자들을 위해 깊이 우려했습니다"라고 크랜스턴은 월요일 성명에서 말했다.​

OpenAI는 "의도하지 않은 생성"이라고 부른 것에 대해 유감을 표명했으며, 개인이 동의하지 않을 때 음성 및 초상 복제에 대한 보호 장치를 강화하겠다고 약속했다. 회사는 누군가의 음성이나 초상을 사용하기 전에 명시적 동의를 요구하는 옵트인 정책을 유지하고 있지만, 크랜스턴의 사례에서는 시행이 명백히 실패했다.

마틴 루터 킹 주니어 동영상 차단됨

지난주, OpenAI는 마틴 루터 킹 주니어의 유산 관리 기관이 민권 운동 지도자에 대한 "무례한 묘사"에 대해 항의한 후 그의 비디오 생성을 중단해야 했습니다. 사용자들은 킹을 인종차별적인 시나리오에 등장시키는 AI 비디오를 만들었으며, 여기에는 그가 "나에게는 꿈이 있습니다" 연설 중 모욕적인 소리를 내거나 저속한 행동을 하는 장면을 묘사한 클립이 포함되어 있었습니다.​

"일부 사용자들이 킹 박사의 이미지를 무례하게 묘사한 콘텐츠를 생성했습니다"라고 OpenAI와 킹 유산 관리 기관은 목요일 공동 성명에서 밝혔습니다. 킹 박사의 딸인 버니스 킹은 사람들에게 아버지의 AI 생성 비디오를 보내는 것을 중단해 달라고 공개적으로 요청했으며, 이는 고(故) 코미디언 로빈 윌리엄스의 딸인 젤다 윌리엄스의 유사한 호소와 맥락을 같이 합니다.

연방 법안에 대한 업계 전반의 지지

월요일 합의에 참여한 모든 당사자들은 공연자들을 무단 디지털 복제로부터 보호하기 위해 고안된 연방 입법안인 NO FAKES Act에 대한 지지를 표명했습니다. "OpenAI는 공연자들의 음성과 초상이 도용되지 않도록 보호하는 데 깊이 전념하고 있습니다"라고 CEO 샘 알트먼이 성명에서 밝혔습니다.​

SAG-AFTRA 회장 숀 애스틴은 이번 해결을 칭찬하면서도 "브라이언 크랜스턴은 복제 기술에 의해 음성과 초상이 대규모로 도용될 위험에 처한 수많은 공연자들 중 한 명입니다"라고 경고했습니다. 노조는 AI 기술이 발전함에 따라 옵트인 프로토콜이 "사업을 하는 유일한 방법"이라고 강조했습니다.​

이번 논란은 지적 재산권을 둘러싼 AI 기업들과 할리우드 간의 광범위한 긴장을 부각시키며, CAA와 UTA 모두 이전에 OpenAI가 플랫폼에서 저작권이 있는 자료를 허용한 것에 대해 비판한 바 있습니다. OpenAI는 처음에 저작권 보유자들이 자신의 자산이 사용되지 않도록 옵트아웃하도록 요구했지만, 이후 명시적인 옵트인 동의를 요구하는 방향으로 전환했습니다.