Loading...

AI 뉴스

Meta, Nvidia, Microsoft AI 프레임워크에서 치명적인 결함 노출

페이지 정보

작성자 xtalfi
작성일 2025.11.16 17:41
266 조회
0 추천
0 비추천

본문

7b81c3169e75c22318d2f5c25c0e6692_1763282355_8208.png
(퍼플렉시티가 정리한 기사)


Meta, Nvidia, 그리고 Microsoft의 인공지능 추론 엔진에 영향을 미치는 심각한 보안 취약점이 사이버 보안 연구원들에 의해 발견되었으며, 광범위한 코드 재사용을 통해 AI 생태계 전반에 전파된 시스템적 결함을 노출시켰습니다.

보안 회사 Oligo Security가 목요일에 공개한 이 취약점들은 모두 연구원들이 “ShadowMQ”라고 부르는 패턴, 즉 ZeroMQ 메시징 라이브러리와 Python의 pickle 역직렬화 모듈의 안전하지 않은 사용에서 비롯되었습니다. 이 결함들은 네트워크 액세스 권한을 가진 공격자가 AI 추론 서버에서 임의의 코드를 실행할 수 있게 하여, 민감한 데이터를 침해하거나 독점 모델을 훔치거나 GPU 클러스터에 암호화폐 채굴 프로그램을 설치할 가능성이 있습니다.


코드 재사용은 위험을 증폭시킨다

보안 문제는 CVE-2024-50050으로 식별된 Meta의 Llama 대규모 언어 모델 프레임워크의 취약점으로 거슬러 올라가며, 회사는 10월에 이를 패치했습니다. 이 결함은 노출된 네트워크 소켓을 통해 Python의 pickle 모듈로 수신 데이터를 역직렬화하기 위해 ZeroMQ의 recv_pyobj() 메서드를 사용하는 것과 관련이 있었습니다. 이는 악의적인 데이터가 처리될 때 원격 코드 실행을 가능하게 하는 위험한 조합입니다.

Oligo Security 연구원 Avi Lumelsky는 동일한 안전하지 않은 패턴이 직접적인 코드 복사를 통해 여러 주요 AI 프레임워크로 확산되었음을 발견했습니다. “코드 파일이 프로젝트 간에 복사되었으며, 때로는 한 줄 한 줄 그대로 복사되어 한 저장소에서 다음 저장소로 위험한 패턴을 전달했습니다”라고 Lumelsky는 말했습니다. 예를 들어, SGLang의 취약한 코드는 vLLM에서 각색되었고, Modular Max Server는 두 프로젝트 모두에서 로직을 차용하여 코드베이스 전반에 걸쳐 결함을 효과적으로 영속시켰습니다.


광범위한 영향, 엇갈린 반응

이 취약점들은 영향을 받는 플랫폼 전반에 걸쳐 여러 CVE 식별자가 할당되었습니다. NVIDIA TensorRT-LLM(CVE-2025-23254, CVSS 점수 8.8)은 버전 0.18.2에서 수정되었습니다. vLLM 프로젝트(CVE-2025-30165, CVSS 점수 8.0)는 기본적으로 V1 엔진으로 전환하여 문제를 해결했지만, V0 엔진에서는 취약점이 여전히 수정되지 않았습니다. Modular Max Server(CVE-2025-60455)도 패치를 출시했습니다.

그러나 Oligo의 공개에 따르면, Microsoft의 Sarathi-Serve는 여전히 패치되지 않았으며, SGLang은 불완전한 수정만 구현했습니다. 이 취약점들은 다중 노드 배포에 영향을 미치며, 공격자가 주요 호스트를 침해할 경우 전체 AI 추론 클러스터로 확대될 수 있습니다.

Oligo는 공개 인터넷에서 수천 개의 노출된 ZeroMQ 소켓을 발견했으며, 그 중 일부는 취약한 추론 클러스터에 연결되어 있어 보안 공백의 긴급성을 강조하고 있습니다. Lumelsky는 “코드 재사용에 안전하지 않은 패턴이 포함되면, 그 결과는 빠르게 외부로 파급됩니다”라고 경고했습니다.

댓글 0
전체 1,248 / 95 페이지
(퍼플렉시티가 정리한 기사)과학기술정보통신부가내년1월시행되는인공지능(AI)기본법의시행령제정안을12일입법예고했다.12월22일까지40일간의견을수렴한후내년1월22일시행을앞둔AI기본법의구체적시행방안을확정할예정이다.​과기정통부는제도의현장안착과기업준비기간제공을위해과태료계도기간을최소1년이상운영할계획이라고밝혔다.계도기간동안통합안내지원센터(가칭)를운영해법적용에관한기업문의사항을안내하고,AI검·인증및영향평가수행비용을지원할방침이다.​투명성·안전성확보의무구체화시행령은AI산업육성을위한R&D,학습용데이터구축,AI도입·활용등지원대상·기준·내용을명확히규정했다.AI투명성확보를위해사업자가고영향AI나생성형AI를이용한제품·서비스를제공할때AI에기반해운용된다는사실을사전에이용자에게고지하도록했다.특히실제와구분하기어려운생성형AI결과물에는AI로생성됐다는사실을명확히고지해야한다.​안전성확보의무대상AI시스템은미국등해외규범을참고해학습시누적연산량이10의26승부동소수점연산(FLOPs)이상인시스템으로정했다.고영향AI여부는사용영역,기본권에대한위험의영향과중대성,빈도등을고려해판단하며,과기정통부의고영향AI확인절차는기본30일이소요되고1회에한해30일연장이가능하다.​AIG3강국도약제도적초석과기정통부는글로벌규범동향과국내AI산업성장을고려해규제보다는진흥에무게를두면서필요최소한의유연한규제체계를도입했다고설명했다.산업부·금융위·개인정보위·원안위·식약처등관계부처소관법률상의무를이행하면AI기본법상고영향AI사업자책무를이행한것으로간주해중복규제를최소화했다.​국내대리인지정사업자대상요건은전년도매출액1조원이상,AI서비스부문매출액100억원이상,일평균국내이용자수100만명이상등이다.​배경훈부총리겸과기정통부장관은"AI기본법시행령제정안은AIG3강국지위를확고히하기위한제도적초석이될것"이라며"입법예고기간동안현장의다양한의견을수렴해AI산업발전과안전·신뢰기반조성이라는입법취지를잘반영하겠다"고밝혔다.
287 조회
0 추천
2025.11.12 등록
(퍼플렉시티가 정리한 기사)Google는11월10일,기기내개인정보보호표준을유지하면서강력한Gemini모델기능을제공하도록설계된클라우드기반AI처리플랫폼인PrivateAICompute를공개했습니다.이시스템은인공지능분야에서점점커지는과제,즉사용자데이터보안을침해하지않으면서스마트폰처리한계를초과하는정교한AI기능을제공하는방법을해결합니다.​이플랫폼은Google의맞춤형TensorProcessingUnit과TitaniumIntelligenceEnclave를사용하는하드웨어격리환경에서실행되며,회사가설명하는"안전하고강화된공간"을생성하여민감한데이터가암호화된상태로유지되고Google자체도액세스할수없도록합니다.이아키텍처는AMD의SEV-SNP기술을사용하여서버메모리를승인된가상머신만액세스할수있는암호화된세그먼트로분할하여하이퍼바이저나운영체제의무단액세스를방지합니다.​픽셀기기에클라우드파워제공하기PrivateAICompute는초기에Pixel기기에서두가지기능을지원합니다.Pixel10시리즈의MagicCue는이제이메일과캘린더의개인정보를처리하면서클라우드기반Gemini모델을활용하여"더시의적절한제안"을제공합니다.Recorder앱은Pixel8및최신모델부터시작하여영어,중국어(만다린),힌디어,이탈리아어,프랑스어,독일어,일본어등7개언어로녹취록을요약하는기능을제공합니다.​이시스템은원격증명과종단간암호화를사용하여기기를보안된클라우드환경에연결합니다.Google에따르면,PrivateAICompute를통해처리되는데이터는즉각적인작업에만사용되며다른목적으로저장되거나액세스할수없습니다.Google은이플랫폼이사용자가기기내처리에서기대하는것과동일한개인정보보호를클라우드기반AI작업으로확장한다고강조합니다.​애플의영향력과산업에미치는영향Google의발표는2024년6월Apple의PrivateCloudCompute도입에이어진것으로,이는클라우드처리능력과엄격한개인정보보호보장을유사하게결합합니다.두시스템모두하드웨어보안엔클레이브와증명프로토콜을사용하여클라우드처리중사용자데이터를보호합니다.​Google의AI혁신및연구부사장인JayYagnik은블로그게시물에서"이것은시작에불과합니다"라고썼습니다."PrivateAICompute는가장민감한사용사례에온디바이스모델과고급클라우드모델을모두사용할수있게됨에따라유용한AI경험을위한새로운가능성을열어줍니다."​이플랫폼은2025년11월Google의PixelFeatureDrop의일부로출시되었으며,알림요약,스캠감지개선및GoogleMaps의절전모드도포함됩니다.
374 조회
0 추천
2025.11.12 등록
(퍼플렉시티가정리한기사)토스증권이12일인공지능(AI)기술을활용한시장분석서비스'AI시그널'을출시했다고밝혔다.뉴스와공시데이터를실시간으로분석해주가변동이유를설명하는이서비스는지난5월선보인해외기업어닝콜실시간번역서비스에이어토스증권의두번째AI기반서비스다.​실시간주가변동원인분석AI시그널은투자자가보유하거나관심있는종목의주가가움직일때가격변동이유를핵심요약형태로제공한다.토스증권모바일트레이딩시스템(MTS)의'관심'탭에서확인할수있으며,현재일부사용자를대상으로베타테스트가진행중이다.토스증권은이르면이번주중서비스를정식출시할예정이다.​이서비스는검색증강생성(RAG)기술을활용해국내외기업공시와뉴스등주가변동과연관있는주요시장신호를AI가포착하고,신호가주가에어떤영향을줬을지자체추론해결론을제시한다.48시간이내에발생한뉴스와공시로데이터를제한하고,토스증권이자체개발한뉴스분류모델을활용해단순홍보성기사나불필요한정보를걸러낸다.​세가지자체개발AI기술적용토스증권은이번서비스에뉴스분류,번역,리즈닝(Reasoning)등자체개발한세가지AI기술을적용했다.뉴스분류모델은하루수천건의뉴스와공시중시장에영향을준정보를선별하고관련업종을자동으로분류한다.금융전문용어와수치처리에특화된자체번역모델은해외뉴스및공시정보를빠르고정확하게해석해제공한다.​특히리즈닝기술은다양한출처의정보를AI가비교·검증해주가변동의원인을논리적으로추론하는기능이다.예를들어특정산업이상승한이유를"공급망회복과실적개선기대"같은구체적문장으로제시하고,근거의신뢰도와수치의정확성까지함께검증한다.​토스증권관계자는"이번서비스를통해투자자가범람하는정보속에서정보탐색의피로를줄이고,시장흐름에대한이해도를높이는데도움을줄것으로기대한다"며"앞으로도지속적인AI기술고도화를통해고객이투자의주도권을가질수있는환경을만드는데집중할계획"이라고밝혔다.
279 조회
0 추천
2025.11.12 등록
(퍼플렉시티가정리한기사)카카오가AI에이전트앱서비스'카나나(Kanana)'의웹버전을출시해PC환경으로서비스접점을확대했다고12일밝혔다.​웹버전카나나는URL(mate.kanana.ai/home)을통해접속할수있으며,기존모바일앱이용자는동일한계정으로로그인해사용가능하다.신규가입자는카카오계정으로가입할수있다.​개인메이트중심기능제공카카오는웹버전출시초기개인메이트중심의기능을제공하며,그룹방기능등은단계적인업데이트를거쳐지원할예정이다.첫화면에서는개인AI메이트'나나'와다양한대화를나눌수있으며,화면왼쪽리스트에서스페셜AI메이트들도선택해이용할수있다.​스페셜AI메이트는지난달모바일앱업데이트를통해신설됐으며,타로,사주,챌린지,스터디코칭,보험상담등총5종으로구성됐다.카카오는이번웹버전에'카나나더알아보기'메뉴를추가해주제별메이트를소개하고다양한기능과새로운소식을전달할계획이다.​AI생태계구축가속화김종한카카오카나나성과리더는"더많은이용자들이카나나서비스를경험할수있도록플랫폼을확장했다"며"순차적으로기능을추가함으로써모바일중심의AI에이전트서비스를더넓은환경으로지속적으로확대해나갈것"이라고밝혔다.​카카오는올해9월연례개발자행사'if(kakao)25'에서카카오톡과결합된AI전략을공개하며,에이전틱AI생태계구현을목표로제시한바있다.향후모바일앱에서지원하는다양한기능들을웹버전에도순차적으로추가할계획이다.
379 조회
0 추천
2025.11.12 등록
홈으로 전체메뉴 마이메뉴 새글/새댓글
전체 검색
회원가입