AI 뉴스

마이크로소프트, 새로운 AI 기능이 기기를 위험에 빠뜨릴 수 있다고 경고

xtalfi

11.20 18:07

6

0

0

Microsoft는 파일 정리 및 이메일 전송과 같은 작업을 자동화하도록 설계된 새로운 Copilot Actions AI 기능이 장치를 손상시키고 민감한 데이터를 훔칠 수 있다는 경고를 발표했으며, 이는 빅테크 기업들이 보안 위험을 완전히 이해하기 전에 기능을 출시한다는 비판을 다시 불러일으켰습니다.

회사는 특히 공격자가 웹사이트, 이력서 또는 이메일에 악의적인 명령을 삽입할 수 있는 프롬프트 인젝션 취약점에 대해 사용자들에게 경고했으며, 대규모 언어 모델은 이를 정당한 사용자 지시와 구별할 수 없습니다.

Open Worldwide Application Security Project는 2025년 LLM 애플리케이션 상위 10대 보안 위험에서 프롬프트 인젝션을 1위 보안 위험으로 선정했으며, 이는 AI 에이전트가 제어 명령과 사용자 데이터를 구분하지 못하는 근본적인 무능력에 대한 업계 전반의 우려를 반영합니다.

링크

https://arstechnica.com/security/2025/11/critics-scoff-after-microsoft-warns-ai-feature-can-infect-machines-and-pilfer-data/

1 회 연결

댓글 0

전체 1,095 / 2 페이지

AI가 사이버 보안 군비 경쟁을 촉진함에 따라 악성코드 이메일 공격 131% 급증

악성코드가 포함된 이메일은 2025년에 전년 대비 131% 급증했으며, 이메일 사기는 35%, 피싱 공격은 21% 증가했다고 Hornetsecurity의 연례 보고서가 밝혔습니다. 이 보고서는 2024년 10월부터 2025년 10월까지 처리된 720억 개 이상의 이메일을 분석했습니다.생성형 AI는 위협 행위자들이 더 설득력 있는 피싱 콘텐츠를 대규모로 제작할 수 있게 했으며, CISO의 77%가 AI로 생성된 피싱을 심각한 신규 위협으로 식별했고, 61%는 AI가 랜섬웨어 위험을 직접적으로 증가시켰다고 믿고 있습니다.방어팀은 조직의 68%가 AI 기반 탐지 기능에 투자하면서 적응하고 있지만, Hornetsecurity CEO Daniel Hofmann은 리더십의 인식 격차를 지적하며 AI 이해를 바탕으로 한 보안 문화가 2026년에 매우 중요할 것이라고 강조했습니다.

12

0

11.20

AI 예산이 IT로 이동하면서 CMO의 영향력 감소

Capgemini가 화요일 발표한 보고서에 따르면, 마케팅 예산이 회사 매출의 단 5%로 축소되는 동안 중요한 비즈니스 의사결정에 참여하는 CMO의 비율이 2년 만에 70%에서 55%로 감소했으며, 이는 AI 기반 디지털 혁신을 주도해야 한다는 기대가 급증하고 있는 상황에서 발생했다.AI 및 마케팅 기술 이니셔티브의 절반 이상이 현재 마케팅 팀이 아닌 IT 부서에서 자금을 지원하고 통제하고 있으며, 마케팅 기술 투자에서 AI가 차지하는 비중이 2023년 64%에서 2025년 79%로 급증했지만, AI가 효과성을 개선했다고 강력히 동의하는 마케팅 리더는 7%에 불과하다.이러한 조사 결과는 측정 가능한 비즈니스 가치를 제공하기 위한 CMO-CIO 협업의 시급한 필요성을 강조하는데, 마케팅 기술 예산을 통제하는 CMO가 40% 미만이고 광범위한 AI 도입에도 불구하고 고객 상호작용을 성공적으로 개인화하는 비율은 18%에 불과하기 때문이다.

6

0

11.20

구글, 미국 외 지역 최대 AI 엔지니어링 센터를 대만에 개소

Google은 미국 외 지역에서 최대 규모의 인공지능 인프라 하드웨어 엔지니어링 센터를 대만에 개설했으며, 라이칭더 총통은 이번 조치가 대만이 신뢰할 수 있는 기술 파트너이자 안전한 AI 개발을 위한 핵심 허브임을 입증하는 것이라고 설명했다.타이베이에 위치한 이 시설은 매일 수십억 명의 사람들이 사용하는 기기에 전력을 공급하는 전 세계 Google 데이터 센터에 배치되는 기술을 개발하고 테스트할 예정이라고 Google Cloud 부사장 아머 마흐무드가 밝혔다.대만은 전 세계 반도체의 60% 이상, 최첨단 칩의 90% 이상을 생산하고 있으며, AI 수요가 급증하는 가운데 TSMC만으로도 계약 칩 제조 분야에서 64%의 글로벌 시장 점유율을 차지하고 있다.

10

0

11.20

마이크로소프트 AI CEO, 윈도우즈 코파일럿 반발 이후 AI 옹호

**마이크로소프트(Microsoft)**의 AI CEO **무스타파 술레이만(Mustafa Suleyman)**은 Copilot과 Windows에 AI가 통합되는 것에 불만을 가진 비평가들에게 반박하며, 사람들이 AI와 유창하게 대화하고 이미지와 동영상을 생성할 수 있는 능력에 감명을 받지 않는다는 사실에 “정말 놀랐다”고 말했다.술레이만의 옹호는 최근 The Verge의 보고서에서 실제 Copilot의 기능이 **마이크로소프트(Microsoft)**가 광고에서 보여주는 것과 맞지 않는다는 점이 지적된 가운데 나왔으며, Windows 사장 **파반 다불루리(Pavan Davuluri)**가 “대리 OS(agentic OS)” 비전을 홍보하다가 심한 반발을 받아 자신의 게시물에서 답글 기능을 비활성화해야 했던 사건에 이어졌다.이 논란은 **마이크로소프트(Microsoft)**가 새로운 “AI를 위한 당신의 캔버스(Your canvas for AI)” 슬로건을 밀어붙이는 가운데, Windows의 평판이 해당 매체가 “역대 최저”라고 묘사할 정도로 떨어진 상황을 부각시킨다. 사용자들은 모든 인터페이스에 원하지 않는 AI 기능을 강제로 넣는 대신 회사가 근본적인 플랫폼 문제를 해결할 것을 요구하고 있다.

4

0

11.20