OpenAI의 Sora 2 저작권 필터가 쉽게 우회

(퍼플렉시티가 정리한 기사)OpenAI CEO 샘 알트먼은 스탠퍼드 대학교 인터뷰에서 AI 보안을 다음 개발 단계의 결정적 과제로 지목하며, 점점 더 개인화되는 AI 모델이 민감한 사용자 정보를 의도치 않게 노출할 수 있다고 경고했다.[digitalinformationworld +2]이번 주 공개된 스탠퍼드 교수 댄 보네와의 인터뷰에서 알트먼은 업계의 초점이 추상적인 안전성 논쟁에서 데이터 보호 및 조작 방지와 관련된 실질적인 보안 문제로 전환되고 있다고 설명했다. 그는 언어 모델이 더욱 강력해지고 개인화됨에 따라 공공 사용을 위한 보안이 점점 더 어려워질 것이라고 말했다.[searchenginejournal +1]개인화는 취약점을 만든다Altman은 현대 AI 개발의 핵심에 있는 긴장 관계를 강조했습니다: 사용자들은 ChatGPT와 같은 도구가 자신의 의사소통 스타일에 적응하고 이전 상호작용의 세부 사항을 기억하는 것을 높이 평가하지만, 바로 이러한 기능들이 AI 시스템을 사생활 기록의 잠재적 저장소로 변모시킵니다. 사용자들이 이러한 시스템을 이메일이나 쇼핑 플랫폼과 같은 외부 서비스에 연결할 때 위험은 더욱 증가합니다.[digitalinformationworld +1]그는 보안 문제에 대한 구체적인 예를 제시했습니다: 온라인 구매를 돕는 AI 비서가 이전 대화에서 수집한 개인 의료 정보를 의도치 않게 노출할 수 있다는 것입니다. “모델들은 아직 이것을 잘 처리하지 못합니다”라고 Altman은 말하며, 인간은 일반적으로 맥락의 경계를 이해할 수 있지만 AI 시스템은 유용한 맥락과 사적인 세부 사항을 구별하는 데 어려움을 겪는다고 언급했습니다.[searchenginejournal +2]“당신이 정말로 원하지 않는 것은 누군가가 당신에 대한 모든 것을 알고 있는 개인 모델에서 데이터를 빼내갈 수 있는 것입니다”라고 Altman은 Stanford 인터뷰에서 설명했습니다. 그는 이 문제를 완전한 신뢰성으로 해결하는 것을 “AI 보안에서 가장 어려운 목표 중 하나”라고 묘사했습니다.[youtube +2]성장하는 분야는 전문성을 요구한다Altman은 적대적 강건성—AI 시스템이 의도하지 않은 결과를 생성하도록 속는 것을 방지하는 능력—을 이 분야가 직면한 가장 어려운 문제 중 하나로 설명했다. 프롬프트나 데이터셋의 작은 변화가 사용자가 의도하지 않은 방식으로 결과를 바꿀 수 있다고 그는 말했다.[digitalinformationworld +1]OpenAI 최고경영자는 학생들에게 AI 보안을 공부할 것을 권장하며, 이를 “공부하기에 가장 좋은 분야 중 하나”라고 말했다. 전통적인 기술 기업들은 오랫동안 대규모 보안 팀을 유지해 왔으며, Altman은 AI 조직들도 곧 같은 수준의 관심과 전문성이 필요할 것이라고 말했다.[searchenginejournal +2]Altman은 또한 AI가 자신이 만드는 위험에 대한 방어를 강화할 수 있다고 강조했다. OpenAI와 다른 개발자들은 이미 AI 모델을 사용하여 소프트웨어 취약점을 탐지하고 코드를 테스트하고 있다. “그런데, 이것은 양방향으로 작동합니다”라고 그는 말하며, AI가 사이버 공격과 방어 모두에서 중요한 역할을 할 것이라고 언급했다.[youtube +2]

(퍼플렉시티가 정리한 기사)기술 업계의 가장 주목받는 두 메시징 플랫폼이 이번 주 그룹 채팅 기능을 강화하고 있으며, OpenAI는 ChatGPT의 협업 기능을 개발 중이고 Google은 Google Messages에서 오랫동안 기다려온 @멘션 기능을 출시하기 시작했습니다.AIPRM의 수석 엔지니어인 Tibor Blaho는 11월 10일, OpenAI가 여러 사용자가 AI 챗봇과 동시에 협업할 수 있는 ChatGPT용 그룹 채팅 기능을 개발하고 있다고 밝혔습니다. X에 공유된 이 발견은 ChatGPT 웹 앱의 미공개 기능 스크린샷을 보여주었습니다. 한편, Google Messages 사용자들은 11월 11일경 Reddit에서 RCS 그룹 채팅의 @멘션 기능이 앱의 베타 버전에 나타났다고 보고하기 시작했으며, 이는 Android의 기본 메시징 플랫폼에 대한 중요한 업그레이드를 의미합니다.[gadgets360 +5]ChatGPT, 협업 워크스페이스 구축유출된 ChatGPT 기능은 사용자들이 상단 네비게이션 바의 버튼을 통해 그룹 채팅을 시작할 수 있게 하며, 누구나 대화에 참여할 수 있는 공유 가능한 링크를 생성합니다. 참여자들은 이전 메시지를 확인하고 반응, 파일 업로드, 이미지 생성, 특정 메시지에 대한 답장을 통해 ChatGPT 및 다른 사용자들과 상호작용할 수 있습니다.[gadgets360 +4]Blaho의 조사 결과에 따르면, 그룹 채팅에는 개인 ChatGPT 설정과 별도의 맞춤 지침이 포함되며, AI의 개인 메모리는 사용자 프라이버시 보호를 위해 그룹 상호작용에서 사용되지 않을 것입니다. 사용자들은 ChatGPT가 자동으로 응답할지 또는 언급될 때만 응답할지 설정할 수 있어, AI가 불필요한 응답으로 대화를 어지럽히는 것을 방지할 수 있습니다.[techlusive +4]OpenAI는 이 기능의 공식 출시일을 발표하지 않았지만, 일부 분석가들은 회사의 일반적인 연말 업데이트 주기 동안 12월에 출시될 수 있다고 제안합니다.[testingcatalog]구글 메시지, 기본 기능에서 따라잡다Google 메시지가 RCS 그룹 채팅에서 @멘션 기능 테스트를 시작했습니다. 이는 WhatsApp, Telegram, Apple의 메시지 앱과 같은 경쟁 플랫폼에서 이미 수년간 제공되어 온 기능입니다. 이 기능을 통해 사용자는 @를 입력한 후 이름을 입력하여 특정 연락처를 태그할 수 있으며, 대화를 음소거한 경우에도 알림을 받을 수 있습니다.[9to5google +3]@멘션 기능은 Google 메시지 베타 버전 20251103_00_RC00에서 나타났으며, Pixel 10 스마트폰에서 발견된 것으로 보고되었습니다. 사용자는 성과 같은 부분을 제거하여 멘션에 표시되는 이름을 편집할 수 있으며, 시스템은 Google 연락처에 저장된 연락처 이름을 사용합니다. 그러나 사용자 보고에 따르면 RCS 그룹 채팅의 iPhone 사용자는 멘션될 때 알림을 받지 못합니다.[androidpolice +2]아직 광범위하게 제공되지는 않지만, 이번 출시는 2024년 Apple이 iPhone에 RCS 지원을 추가한 이후 주목받고 있는 RCS 메시징에 대한 Google의 지속적인 투자를 보여줍니다.[newsbytesapp +1]

(퍼플렉시티가 정리한 기사)오픈AI 코리아가 13일 서울에서 한국 최초의 개발자 행사 ’데브데이 익스체인지 서울(DevDay Exchange Seoul)’을 개최하고 국내 개발자 커뮤니티와의 본격 협력에 나섰다. 이번 행사는 지난 10월 1일 샘 올트먼 최고경영자(CEO)가 방한해 과학기술정보통신부와 체결한 양해각서(MOU)의 후속 조치로, 한국 AI 생태계 활성화와 스타트업 지원 협력을 구체화하는 자리였다.[zdnet +3]오픈AI 본사 핵심 인력 참여한 기술 교류김경훈 오픈AI 코리아 총괄 대표의 발표로 시작한 이번 행사에는 보니 채터지 오픈AI 글로벌 솔루션 아키텍처 총괄, 자커리 로릭 글로벌 솔루션 엔지니어링 총괄, 김종욱 연구원 등 본사 핵심 인력이 참여했다. 이들은 ‘무엇이든 물어보세요(AMA)’ 세션을 통해 국내 개발자들의 질문에 직접 답하며 소통의 시간을 가졌다. 오픈AI 코리아 소속 엔지니어들도 최신 기능 데모를 선보이며 기능별 구현 과정과 활용 전략을 중심으로 실전형 학습 환경을 제공했다.[zdnet +5]행사장에는 오픈AI 기술을 활용한 서비스를 구축한 네 개 기업의 데모 부스가 운영됐다. 무신사는 챗GPT 기반 쇼핑 기능을, 아르투는 자연어로 예술 작품을 검색하는 서비스를, 쿠쿠랩스는 기업용 동시 통역 서비스를, 사이오닉에이아이는 기업용 AI 에이전트 솔루션 ’스톰(STORM)’을 각각 선보였다.[inews24 +4]“AI는 혁신 인프라” 글로벌 진출 지원 약속김경훈 대표는 “AI는 이제 더 이상 흥미로운 기술에 머무르지 않고, 전 세계 개발자·스타트업·기업들이 제품과 서비스를 구축할 수 있도록 해주는 혁신 인프라가 되고 있다”고 밝혔다. 그는 “이번 행사를 계기로 한국 개발자 커뮤니티와의 협업을 더욱 강화하고, 한국 개발자들이 글로벌 무대에서 더 많은 혁신을 만들어 나갈 수 있도록 적극적으로 지원해 나가겠다”고 강조했다.[zdnet +4]오픈AI는 9월 서울 테헤란로에 아시아 세 번째 거점인 오픈AI 코리아를 공식 출범했으며, 10월에는 샘 올트먼 CEO가 이재명 대통령을 만나 한국 AI 생태계 발전을 위한 협력을 약속했다. 과기정통부와 오픈AI는 당시 지역 균형 발전, 공공부문 AI 전환, AI 인재 양성, 스타트업 생태계 활성화 등에 협력하기로 했다.[techsuda +6]

(퍼플렉시티가 정리한 기사)알리바바 그룹은 주력 모바일 AI 애플리케이션의 대대적인 개편을 준비하고 있으며, OpenAI의 ChatGPT 지배력에 정면으로 도전하기 위해 인기 있는 AI 모델의 이름을 따서 앱 이름을 “Qwen”으로 변경할 예정이라고 관계자들이 전했다. 이 중국 기술 대기업은 앞으로 몇 달 안에 iOS와 Android의 기존 “Tongyi” 앱을 업데이트한 다음, 타오바오를 포함한 플랫폼에서의 쇼핑을 지원하기 위해 에이전틱 AI 기능을 점진적으로 추가할 계획이다.이러한 움직임은 중국 AI 모델이 실리콘밸리에서 조용히 주목을 받고 있는 가운데 나온 것으로, 주요 미국 기업들이 미국 대안보다 중국 AI 모델을 점점 더 많이 채택하고 있다. 에어비앤비 CEO 브라이언 체스키는 10월에 자신의 회사가 AI 기반 고객 서비스 에이전트에 알리바바의 Qwen 모델을 “크게 의존”하고 있다고 밝혔으며, 이를 “매우 좋고”, “빠르고 저렴하다”고 칭찬했다. OpenAI CEO 샘 알트만의 친구인 체스키는 ChatGPT의 도구가 아직 “완전히 준비되지 않았기” 때문에 ChatGPT 통합을 하지 않기로 결정했다고 말했다.실리콘밸리가 중국 모델을 수용하다이러한 변화는 Airbnb를 넘어 확대되고 있습니다. Social Capital의 CEO인 Chamath Palihapitiya는 자신의 회사가 상당한 워크로드를 Moonshot AI의 Kimi K2 모델로 마이그레이션했다고 밝혔으며, OpenAI 및 Anthropic에 비해 우수한 성능과 낮은 비용을 이유로 들었습니다. 업계 데이터에 따르면 중국 모델들이 빠르게 시장 점유율을 확보하고 있으며, OpenRouter에 따르면 지난주 MiniMax, DeepSeek, Alibaba와 같은 기업의 도구들이 가장 많이 사용되는 AI 모델 상위 20개 중 7개를 차지했습니다.Alibaba의 Qwen 모델은 10월 기준 누적 다운로드 5억 4천만 건을 돌파하며 세계 최대 오픈소스 AI 제품군이 되었으며, 메타의 Llama 모델을 능가했습니다. Qwen 시리즈는 Hugging Face에서 3억 8,500만 다운로드를 기록하여 Llama의 3억 4,600만을 앞질렀습니다.비용 우위가 도입을 촉진한다중국 기업들은 미국 경쟁사들보다 훨씬 저렴한 가격으로 오픈 웨이트 모델을 제공함으로써 경쟁 우위를 달성했습니다. AllianceBernstein의 분석에 따르면 DeepSeek의 가격은 OpenAI의 제품보다 최대 40배 저렴할 수 있습니다. 이러한 비용 우위는 미국의 수출 제한의 영향을 받지 않는 구세대 칩 사용과 최적화된 훈련 방법에서 비롯됩니다.이러한 추세는 경쟁을 심화시켰으며, Moonshot AI가 최근 출시한 Kimi K2 Thinking 모델은 주요 벤치마크에서 OpenAI의 GPT-5와 Anthropic의 Claude Sonnet 4.5를 능가하면서도 훈련 비용은 단 460만 달러에 불과했습니다. 런던 퀸메리대학교의 AI 교수인 Greg Slabaugh는 “중국의 AI 발전은 과소평가되어 왔다”고 말했습니다.