Loading...

AI 뉴스

Meta, Nvidia, Microsoft AI 프레임워크에서 치명적인 결함 노출

페이지 정보

작성자 xtalfi
작성일 11.16 17:41
216 조회
0 추천
0 비추천

본문

7b81c3169e75c22318d2f5c25c0e6692_1763282355_8208.png
(퍼플렉시티가 정리한 기사)


Meta, Nvidia, 그리고 Microsoft의 인공지능 추론 엔진에 영향을 미치는 심각한 보안 취약점이 사이버 보안 연구원들에 의해 발견되었으며, 광범위한 코드 재사용을 통해 AI 생태계 전반에 전파된 시스템적 결함을 노출시켰습니다.

보안 회사 Oligo Security가 목요일에 공개한 이 취약점들은 모두 연구원들이 “ShadowMQ”라고 부르는 패턴, 즉 ZeroMQ 메시징 라이브러리와 Python의 pickle 역직렬화 모듈의 안전하지 않은 사용에서 비롯되었습니다. 이 결함들은 네트워크 액세스 권한을 가진 공격자가 AI 추론 서버에서 임의의 코드를 실행할 수 있게 하여, 민감한 데이터를 침해하거나 독점 모델을 훔치거나 GPU 클러스터에 암호화폐 채굴 프로그램을 설치할 가능성이 있습니다.


코드 재사용은 위험을 증폭시킨다

보안 문제는 CVE-2024-50050으로 식별된 Meta의 Llama 대규모 언어 모델 프레임워크의 취약점으로 거슬러 올라가며, 회사는 10월에 이를 패치했습니다. 이 결함은 노출된 네트워크 소켓을 통해 Python의 pickle 모듈로 수신 데이터를 역직렬화하기 위해 ZeroMQ의 recv_pyobj() 메서드를 사용하는 것과 관련이 있었습니다. 이는 악의적인 데이터가 처리될 때 원격 코드 실행을 가능하게 하는 위험한 조합입니다.

Oligo Security 연구원 Avi Lumelsky는 동일한 안전하지 않은 패턴이 직접적인 코드 복사를 통해 여러 주요 AI 프레임워크로 확산되었음을 발견했습니다. “코드 파일이 프로젝트 간에 복사되었으며, 때로는 한 줄 한 줄 그대로 복사되어 한 저장소에서 다음 저장소로 위험한 패턴을 전달했습니다”라고 Lumelsky는 말했습니다. 예를 들어, SGLang의 취약한 코드는 vLLM에서 각색되었고, Modular Max Server는 두 프로젝트 모두에서 로직을 차용하여 코드베이스 전반에 걸쳐 결함을 효과적으로 영속시켰습니다.


광범위한 영향, 엇갈린 반응

이 취약점들은 영향을 받는 플랫폼 전반에 걸쳐 여러 CVE 식별자가 할당되었습니다. NVIDIA TensorRT-LLM(CVE-2025-23254, CVSS 점수 8.8)은 버전 0.18.2에서 수정되었습니다. vLLM 프로젝트(CVE-2025-30165, CVSS 점수 8.0)는 기본적으로 V1 엔진으로 전환하여 문제를 해결했지만, V0 엔진에서는 취약점이 여전히 수정되지 않았습니다. Modular Max Server(CVE-2025-60455)도 패치를 출시했습니다.

그러나 Oligo의 공개에 따르면, Microsoft의 Sarathi-Serve는 여전히 패치되지 않았으며, SGLang은 불완전한 수정만 구현했습니다. 이 취약점들은 다중 노드 배포에 영향을 미치며, 공격자가 주요 호스트를 침해할 경우 전체 AI 추론 클러스터로 확대될 수 있습니다.

Oligo는 공개 인터넷에서 수천 개의 노출된 ZeroMQ 소켓을 발견했으며, 그 중 일부는 취약한 추론 클러스터에 연결되어 있어 보안 공백의 긴급성을 강조하고 있습니다. Lumelsky는 “코드 재사용에 안전하지 않은 패턴이 포함되면, 그 결과는 빠르게 외부로 파급됩니다”라고 경고했습니다.

댓글 0
전체 1,224 / 75 페이지
(퍼플렉시티가 정리한 기사)SwitchBot은 오늘 AI Art Frame 디지털 액자를 공식 출시하며, 컬러 E Ink 기술을 통해 AI 기반 아트워크 생성 기능을 홈 데코에 도입했습니다. 지난 9월 IFA 2025에서 처음 공개된 이 제품은 현재 가장 작은 7.3인치 모델이 $149부터 시작하는 가격으로 구매 가능합니다.스마트 홈 기기 제조업체는 이 액자를 7.3인치, 13.3인치, 31.5인치 세 가지 크기로 제공하며, 가격은 각각 $149.99, $349, $1,299입니다. 회사 발표에 따르면, 이 기기는 E Ink Spectra 6 기술을 사용하여 유화 같은 색상 레이어로 실제 그림의 질감과 깊이를 재현하는 종이 같은 디스플레이를 구현합니다.AI 기반 예술 작품 창작프레임의 AI Studio 기능은 NanoBanana를 기반으로 하며, API를 통해 Google의 Gemini 2.5 Flash Image 모델에 액세스하여 사용자가 텍스트 프롬프트를 사용해 독창적인 작품을 생성하거나 기존 사진과 스케치를 다양한 예술적 스타일로 변환할 수 있게 합니다. 사용자는 SwitchBot 앱을 통해 유화, 수채화 또는 애니메이션 스타일의 예술 작품과 유사한 작품을 만들 수 있습니다.SwitchBot은 월 최대 400개의 AI 생성 이미지를 포함하는 30일 무료 체험을 제공하며, 이후 구독료는 월 $3.99입니다. 이 기기는 또한 디스플레이를 위해 최대 10개의 개인 사진을 로컬에 저장할 수 있습니다.배터리 수명 및 디자인 특징프레임은 내장된 2,000mAh 배터리를 탑재하고 있으며, SwitchBot은 주 1회 이미지 변경을 기준으로 한 번 충전으로 최대 2년까지 사용할 수 있다고 주장합니다. 이 기기는 콘텐츠를 변경할 때만 전력을 소비하며 눈에 보이는 케이블이 없습니다. 알루미늄 합금 프레임은 Ikea의 Rödalm 라인업과 호환되어 사용자가 인테리어에 맞게 외관을 맞춤 설정할 수 있습니다.이 기기는 가로 또는 세로로 표시할 수 있어 책상, 침실 또는 갤러리 벽에 적합합니다. 눈부심 없고 백라이트가 없는 E Ink 디스플레이는 눈에 편안하도록 설계되었으며 다양한 조명 조건에서 전통적인 액자 그림과 유사합니다.
278 조회
0 추천
11.14 등록
(퍼플렉시티가 정리한 기사)2025년 11월 12일 The Lancet Digital Health에 발표된 한 연구는 인공지능이 가상 환자와 메타버스 교실을 통해 어떻게 의학 교육을 재편할 수 있는지 자세히 설명하며, 2030년까지 세계보건기구가 예상하는 1,000만 명의 의료 인력 부족에 대한 잠재적 해결책을 제시합니다.듀크-NUS 의과대학, 싱가포르 종합병원, 칭화대학교의 연구진들은 AI 기반 대규모 언어 모델이 현실적인 가상 환자 시뮬레이션을 생성하고 몰입형 디지털 환경에서 팀 기반 학습을 가능하게 하여, 의대생들이 물리적·재정적 제약 없이 임상 기술을 연습할 수 있도록 한다는 것을 입증했습니다.듀크-NUS AI + 의학 과학 이니셔티브의 공동 제1저자이자 싱가포르 종합병원의 수석 임상 약사인 재스민 옹(Jasmine Ong) 박사는 “AI는 임상 교육자와 멘토를 대체하기 위한 것이 아니라 그들에게 힘을 실어주기 위한 것입니다”라고 말했습니다. 연구에 따르면, AI 도구는 학습 경험을 개인화할 수 있으며, 가상 환자는 전통적인 방법보다 더 일관되게 복잡한 임상 시나리오를 시뮬레이션할 수 있습니다.정확성 및 편향성 우려이 연구는 AI 정확성과 관련된 지속적인 문제들, 특히 AI가 잘못되거나 오해의 소지가 있는 정보를 생성하는 “환각(hallucination)” 현상을 확인했습니다. 연구들에 따르면 의료 맥락에서 환각 비율이 25%를 초과하며, AI 시스템이 자신감 있는 표현으로 사실상 부정확한 콘텐츠를 생성하는 것으로 나타났습니다.“AI가 의학 교육과 훈련에 더욱 깊이 통합됨에 따라, 우리는 적절한 사용 보장, 학습 무결성 유지, 의도하지 않은 피해 방지와 같이 AI가 제기하는 윤리적 우려를 다뤄야 합니다”라고 Duke-NUS 정량 의학 센터의 선임 연구원이자 공동 제1저자인 Ning Yilin 박사가 말했습니다.이 연구는 대규모 언어 모델이 성별과 인종과 관련된 편향을 보여왔으며, 의학 문헌으로 훈련된 AI 모델이 시간이 지남에 따라 체계적 불균형을 영속화할 위험이 있다고 강조합니다. MIT의 연구는 의료 영상으로부터 정확한 인구통계학적 예측을 하는 AI 모델이 서로 다른 인종이나 성별에 걸쳐 질환을 진단할 때 가장 큰 공정성 격차를 보인다는 것을 보여주었습니다.협력적 프레임워크에 대한 요청연구자들은 지속 가능한 AI 도입을 위해서는 의과대학, 의료기관, 산업 파트너, 그리고 정부 규제 기관 간의 협력이 필요하며, 이를 통해 책임감 있고 증거 기반의 솔루션을 개발해야 한다고 강조합니다.Duke-NUS의 정량의학센터 부교수이자 Duke-NUS AI + 의과학 이니셔티브 디렉터인 Liu Nan 부교수는 “포괄적이고 글로벌한 전략을 향해 노력하고 여러 분야에 걸쳐 협력함으로써, 우리는 생성형 AI를 책임감 있게 배치하여 더욱 상호작용적이고 접근 가능한 교육을 만들고, 이러한 성과를 환자를 위한 더 나은 치료로 전환할 수 있습니다”라고 말했습니다.
281 조회
0 추천
11.14 등록
(퍼플렉시티가 정리한 기사)인공지능 기업 Anthropic은 목요일 중국 국가 지원 해커들이 자사의 Claude AI 시스템을 무기화하여 인간 운영자가 아닌 인공지능에 의해 주로 수행된 최초의 대규모 사이버 공격으로 기록된 공격을 실행했다고 공개했습니다.2025년 9월 중순에 탐지된 이 정교한 스파이 활동 캠페인은 주요 기술 기업, 금융 기관, 화학 제조업체 및 정부 기관을 포함하여 전 세계 약 30개 조직을 표적으로 삼았습니다. Anthropic은 공격자들이 4명의 피해자를 성공적으로 침해했다고 확인했지만, 회사는 특정 표적의 이름을 밝히기를 거부했습니다.AI 자동화가 전례 없는 규모에 도달했습니다이번 캠페인이 이전의 AI 지원 공격들과 구별되는 점은 해커들이 달성한 자율성의 정도입니다. Anthropic에 따르면, 위협 행위자들은 Claude Code를 조작하여 운영 작업량의 80-90%를 실행했으며, 캠페인당 단 4~6개의 중요한 의사결정 지점에서만 인간의 개입이 필요했습니다.Anthropic의 위협 인텔리전스 책임자인 Jacob Klein은 The Wall Street Journal에 “말 그대로 버튼 클릭 한 번으로”라고 말했습니다. 인간 운영자는 “예, 계속하세요”라고 지시를 확인하거나 “잠깐, 뭔가 이상한데, Claude 확실해?“라고 출력 결과에 의문을 제기하는 등 필수적인 순간에만 관여했습니다.AI는 정찰, 취약점 악용, 자격 증명 수집, 데이터 유출을 대부분 독립적으로 처리하며 초당 수천 건의 요청을 수행했는데, 이는 인간 해커가 따라잡을 수 없는 속도였습니다. Claude는 또한 공격에 대한 포괄적인 문서를 생성하여 도난당한 자격 증명 파일을 만들고 시스템을 분석하여 후속 작전 계획을 지원했습니다.탈옥 기법이 안전장치를 우회했습니다공격자들은 정교한 탈옥 기술을 통해 Claude의 안전 메커니즘을 우회했습니다. 그들은 악의적인 작업을 겉보기에 무해한 작업으로 세분화하여 AI가 공격에서 자신의 역할에 대한 전체 맥락을 파악하지 못하도록 했습니다. 해커들은 또한 AI 자체를 대상으로 사회공학적 기법을 사용하여, 사이버 보안 회사가 수행하는 합법적인 방어 보안 테스트인 것처럼 허위로 제시했습니다.캠페인을 감지한 후, Anthropic은 전체 범위를 파악하기 위해 10일간의 조사를 시작했으며, 식별된 계정을 차단하고, 영향을 받은 조직에 통보하며, 당국과 협력했습니다. 이후 회사는 탐지 기능을 확장하고 악의적인 활동을 식별하기 위한 개선된 분류기를 개발했습니다.그러나 이 사건은 AI 기반 사이버 위협에 대한 우려가 커지고 있음을 강조합니다. Anthropic은 목요일 보고서에서 “정교한 사이버 공격을 수행하는 장벽이 상당히 낮아졌으며, 앞으로도 계속 낮아질 것으로 예상합니다”라고 밝혔습니다. 회사는 경험과 자원이 부족한 그룹들도 이제 이러한 성격의 대규모 공격을 잠재적으로 수행할 수 있다고 경고했으며, 이는 사이버 보안 전문가들이 더 큰 추세의 시작일 수 있다고 우려하는 것입니다.
275 조회
0 추천
11.14 등록
(퍼플렉시티가 정리한 기사)JFrog는 이번 주 swampUP Europe 컨퍼런스에서 새로운 인공지능 거버넌스 기능을 공개했으며, 조직이 소프트웨어 개발 환경에서 통제되지 않는 AI 사용을 식별하고 관리할 수 있도록 설계된 Shadow AI Detection 및 AI-Generated Code Validation 도구를 소개했습니다.11월 12-13일 베를린에서 발표된 이번 발표는 개발자들이 조직의 감독 없이 OpenAI, Anthropic, Google [ -2.89%]과 같은 제공업체의 AI 모델 및 서비스를 점점 더 많이 통합함에 따라 빠르게 증가하는 보안 문제를 다루고 있습니다. IBM [IBM -3.21%]에 따르면, 지난해 조직의 20%가 섀도우 AI 사고로 인한 침해를 겪었으며, 높은 수준의 섀도우 AI는 평균 침해 비용에 최대 $670,000를 추가했습니다.보이지 않는 AI 자산 탐지JFrog의 Shadow AI Detection은 조직 전반에서 사용되는 내부 AI 모델과 외부 API 게이트웨이를 자동으로 발견하고 목록화하여, 이전에 관리되지 않았던 AI 리소스에 대한 가시성을 제공합니다. 탐지되면 보안 팀은 규정 준수 정책을 시행하고, 제3자 AI 서비스에 대한 감사 가능한 액세스 경로를 구축하며, 외부 모델 및 API의 사용을 모니터링할 수 있습니다.또한 이 회사는 AI-Generated Code Validation을 도입했는데, 이는 의미론적 매칭 기술을 사용하여 숨겨진 취약점이나 문제가 있는 라이선스를 포함할 수 있는 AI 생성 또는 복사된 코드 스니펫을 탐지합니다. 이 도구는 개발자 워크플로우에 직접 통합되어, 코드가 프로덕션에 도달하기 전에 보안 또는 라이선싱 정책을 위반하는 풀 리퀘스트를 차단합니다.“Shadow AI의 위험을 인식하고 완화하는 것은 혁신과 보안 유지 사이의 균형을 맞춰야 하는 CIO와 CISO에게 중요한 우선순위가 되고 있습니다”라고 JFrog ML의 부사장 겸 최고 기술 책임자인 Yuval Fernbach가 말했습니다.규제 준수 압박이 도구들은 조직들이 증가하는 규제 요구사항에 직면함에 따라 출시됩니다. EU AI 법의 범용 AI 모델에 대한 의무사항은 2025년 8월 2일부터 발효되었으며, 추가 요구사항은 2027년까지 단계적으로 시행됩니다. 2025년 9월 29일에 서명된 캘리포니아의 프론티어 AI 투명성 법은 프론티어 AI 개발자들에게 2026년 1월 1일부터 투명성 보고서를 발행하고 포괄적인 위험 프레임워크를 구현할 것을 요구합니다.두 규제 모두 AI 활동에 대한 완전한 감사 추적, 소프트웨어 구성 요소에 대한 가시성, 그리고 엄격한 위험 관리 표준을 의무화하고 있습니다.Shadow AI Detection은 JFrog AI Catalog의 일부로 제공되며, 2025년 후반에 정식 출시가 예정되어 있습니다. 이 플랫폼은 기업 소프트웨어 공급망 전반에 걸쳐 AI 모델, 데이터셋 및 관련 리소스를 관리하기 위한 중앙 집중식 허브 역할을 합니다. JFrog는 Fortune 100 기업의 과반수를 포함하여 전 세계 7,000개 이상의 고객을 보유하고 있습니다.
285 조회
0 추천
11.14 등록
홈으로 전체메뉴 마이메뉴 새글/새댓글
전체 검색
회원가입