Loading...

AI 뉴스

Meta, Nvidia, Microsoft AI 프레임워크에서 치명적인 결함 노출

페이지 정보

작성자 xtalfi
작성일 11.16 17:41
70 조회
0 추천
0 비추천

본문

7b81c3169e75c22318d2f5c25c0e6692_1763282355_8208.png
(퍼플렉시티가 정리한 기사)


Meta, Nvidia, 그리고 Microsoft의 인공지능 추론 엔진에 영향을 미치는 심각한 보안 취약점이 사이버 보안 연구원들에 의해 발견되었으며, 광범위한 코드 재사용을 통해 AI 생태계 전반에 전파된 시스템적 결함을 노출시켰습니다.

보안 회사 Oligo Security가 목요일에 공개한 이 취약점들은 모두 연구원들이 “ShadowMQ”라고 부르는 패턴, 즉 ZeroMQ 메시징 라이브러리와 Python의 pickle 역직렬화 모듈의 안전하지 않은 사용에서 비롯되었습니다. 이 결함들은 네트워크 액세스 권한을 가진 공격자가 AI 추론 서버에서 임의의 코드를 실행할 수 있게 하여, 민감한 데이터를 침해하거나 독점 모델을 훔치거나 GPU 클러스터에 암호화폐 채굴 프로그램을 설치할 가능성이 있습니다.


코드 재사용은 위험을 증폭시킨다

보안 문제는 CVE-2024-50050으로 식별된 Meta의 Llama 대규모 언어 모델 프레임워크의 취약점으로 거슬러 올라가며, 회사는 10월에 이를 패치했습니다. 이 결함은 노출된 네트워크 소켓을 통해 Python의 pickle 모듈로 수신 데이터를 역직렬화하기 위해 ZeroMQ의 recv_pyobj() 메서드를 사용하는 것과 관련이 있었습니다. 이는 악의적인 데이터가 처리될 때 원격 코드 실행을 가능하게 하는 위험한 조합입니다.

Oligo Security 연구원 Avi Lumelsky는 동일한 안전하지 않은 패턴이 직접적인 코드 복사를 통해 여러 주요 AI 프레임워크로 확산되었음을 발견했습니다. “코드 파일이 프로젝트 간에 복사되었으며, 때로는 한 줄 한 줄 그대로 복사되어 한 저장소에서 다음 저장소로 위험한 패턴을 전달했습니다”라고 Lumelsky는 말했습니다. 예를 들어, SGLang의 취약한 코드는 vLLM에서 각색되었고, Modular Max Server는 두 프로젝트 모두에서 로직을 차용하여 코드베이스 전반에 걸쳐 결함을 효과적으로 영속시켰습니다.


광범위한 영향, 엇갈린 반응

이 취약점들은 영향을 받는 플랫폼 전반에 걸쳐 여러 CVE 식별자가 할당되었습니다. NVIDIA TensorRT-LLM(CVE-2025-23254, CVSS 점수 8.8)은 버전 0.18.2에서 수정되었습니다. vLLM 프로젝트(CVE-2025-30165, CVSS 점수 8.0)는 기본적으로 V1 엔진으로 전환하여 문제를 해결했지만, V0 엔진에서는 취약점이 여전히 수정되지 않았습니다. Modular Max Server(CVE-2025-60455)도 패치를 출시했습니다.

그러나 Oligo의 공개에 따르면, Microsoft의 Sarathi-Serve는 여전히 패치되지 않았으며, SGLang은 불완전한 수정만 구현했습니다. 이 취약점들은 다중 노드 배포에 영향을 미치며, 공격자가 주요 호스트를 침해할 경우 전체 AI 추론 클러스터로 확대될 수 있습니다.

Oligo는 공개 인터넷에서 수천 개의 노출된 ZeroMQ 소켓을 발견했으며, 그 중 일부는 취약한 추론 클러스터에 연결되어 있어 보안 공백의 긴급성을 강조하고 있습니다. Lumelsky는 “코드 재사용에 안전하지 않은 패턴이 포함되면, 그 결과는 빠르게 외부로 파급됩니다”라고 경고했습니다.

댓글 0
전체 1,143 / 50 페이지
(퍼플렉시티가정리한기사)오스틴에본사를둔LakeFusion은DatabricksLakehouse를위해구축된AI네이티브마스터데이터관리플랫폼을발전시키기위해CarbideVentures가주도하는시드펀딩을확보했다고이번주회사발표를통해밝혔습니다.이번펀딩은통합되고고품질의데이터가분석및인공지능이니셔티브에중요한헬스케어,금융서비스,부동산부문으로의회사확장을지원할예정입니다.​마스터데이터관리에대한AI네이티브접근방식VikasPunna가설립한LakeFusion은기업들이AI를대규모로배포하기위해경쟁하면서직면하는증가하는과제를해결합니다.이플랫폼은인공지능과자동화를마스터데이터관리프로세스에직접내장하여,조직이환자,의료제공자,자산및제품을포함한여러도메인에걸쳐분산된데이터를Databricks생태계내에서통합할수있도록합니다.​Punna는성명에서"레거시MDM플랫폼은오늘날의AI중심세계를위해구축되지않았습니다"라고말했습니다."우리플랫폼은엔터프라이즈데이터에지능성,확장성및단순성을제공하여조직이Lakehouse의잠재력을완전히발휘할수있도록돕습니다."​최근시장분석에따르면,AI데이터관리시장이2024년364억9천만달러에서2025년447억1천만달러로확대되는등급속한성장을경험하면서이번자금조달이이루어졌습니다.업계분석가들은마스터데이터관리가변화를겪고있으며,조직들이AI중심이고클라우드우선이며현대적인데이터생태계와긴밀하게통합된플랫폼을찾고있다고지적합니다.​전략적투자와시장기회CarbideVentures의파트너인PankajTibrewal은이번투자가기업들이점점더AI에의존함에따라신뢰할수있는데이터에대한현대적접근방식에대한수요증가를반영한다고말했다."기업들이AI를활용하기위해경쟁하면서마스터데이터관리가점점더중요해지고있습니다"라고Tibrewal은말했다."동시에AI는MDM자체가수행되는방식을변화시키고있습니다—더빠르고,더스마트하며,대규모로말이죠."​LakeFusion의플랫폼은대규모언어모델과벡터검색을활용하여엔티티해결—중복레코드를식별하고통합된"골든레코드"로통합—을기존규칙기반시스템보다더높은정확도로수행한다.회사는2025년1월Databricks와의파트너십을발표하여DatabricksDataIntelligencePlatform에MDM기능을통합했다.
74 조회
0 추천
11.15 등록
(퍼플렉시티가정리한기사)OpenAI는목요일인공지능이생물학적위협을만드는무기로전용되는것을방지하는데중점을둔스타트업인RedQueenBio에1,500만달러규모의시드라운드를주도할것이라고발표했으며,이는ChatGPT제작사의한달도안되는기간내두번째주요생물안보투자를의미한다.mRNA치료제회사인HelixNano에서분사한샌프란시스코소재이회사는잠재적인생물무기위협과같은속도로진화하는AI기반방어시스템개발을목표로하고있다.RedQueenBio는공동창립자HannuRajaniemi에따르면,생물학적시스템의취약점을식별하고대응책을설계하기위해컴퓨터모델과실험실테스트를결합할예정이다.​"생물학적역량이우리가예상했던것보다빠르게발전하고있다는것이명백했습니다"라고Rajaniemi는Reuters에말했다."우리는방어책개발을시작해야한다고느꼈습니다".​OpenAI의안전포트폴리오확장이번투자는OpenAI가지난10월뉴욕에본사를둔생물보안소프트웨어회사Valthos에3천만달러를투자한것에이어이루어졌다.OpenAI의최고전략책임자인JasonKwon은회사가유사한위험을다루는추가스타트업을지원하는데열려있다고말했다."우리는전체생태계의전반적인회복력을높이고싶습니다"라고Kwon은Reuters에말했다."위험완화를다룰수있는가장좋은방법중하나는더많은기술입니다".​이번펀딩라운드에는CerberusVentures,FiftyYears,HalcyonFutures도참여했다.거래의일환으로OpenAICEOSamAltman과이사회멤버NicoleSeligman은HelixNano에대한이전투자로인해RedQueenBio의주식을받게되지만,두사람모두이번거래승인에는참여하지않았다.OpenAI의최고컴플라이언스책임자와이해관계가없는이사회구성원들이이번투자를검토하고승인했다.​AI기반위협에맞서는경쟁레드퀸바이오는루이스캐럴의「거울나라의앨리스」에서이름을따왔으며,이는생물학적위협과방어역량간의끊임없는진화적경쟁을의미합니다.이스타트업의창립자들은오픈AI와의협업중최첨단AI모델들이놀라운생물학적창의성을보여주었으며,이는혁신적인치료법개발에활용될수있는가능성을갖는동시에,더어두운잠재력도내포하고있음을관찰했습니다.​안전전문가들은약물개발을가속화할수있는AI시스템이동시에악의적인행위자들이위험한병원체를설계하는장벽을낮출수있다고경고합니다.최근연구에서는합성단백질스크리닝과정에서의취약점이드러났고,여러AI연구소에서생물무기개발정보를제공할위험임계점에다다른모델들에대해우려를표명하고있습니다.​레드퀸바이오는선진AI모델,실험실자동화,강화학습을활용하여AI기반생물학적위협을맵핑하고미리의료대책을개발할계획입니다.이회사는퍼블릭베네핏코퍼레이션구조로설립되었으며,모든AI연구소,바이오제약회사,정부와협력할것을약속합니다.
79 조회
0 추천
11.15 등록
(퍼플렉시티가정리한기사)인공지능(AI)이심혈관임상시험에서임상사건을전문의수준의정확도로성공적으로판정함으로써,신약개발의비용과복잡성을줄일수있는잠재적전환점을맞고있습니다.연구진은이번주시카고에서열린2025년미국심장협회(AmericanHeartAssociation)연례학술대회에서,AI모델이인간임상사건위원회와동등하게심근경색,뇌졸중,심혈관사망을판별할수있음을발표했습니다.​이번돌파구의중심에는대형언어모델(LargeLanguageModels)과자연어처리(NaturalLanguageProcessing)를활용한두가지첨단AI시스템이있습니다.Auto-MACE모델은PARADISE-MI임상시험에참가한5,661명을대상으로심혈관사망에대해97%,심근경색89%,뇌졸중88%의임상사건위원회와의일치도를보였습니다.한편,심부전자연어처리(HeartFailureNaturalLanguageProcessing)모델은글로벌DELIVER임상시험에서임상의와83%의전체일치도,특히심부전입원판별에서87%의일치도를기록했습니다.​비용이많이드는프로세스간소화임상사건판정은임상시험중특정의료사건이실제로발생했는지확인하는과정으로,일반적으로전문의사패널이의료기록을수작업으로검토해야합니다.이노동집약적인과정은주요비용발생원인으로작용하며,심혈관약물의규제승인임상시험참가자1인당비용이$35,000을초과하기도합니다.​"AI가사람이직접검토해야하는사례의양을줄임으로써,판정비용과일정지연의주요원인을줄일수있습니다."라고브리검여성병원(PabloM.Marti-Castellote외연구진)이그들의JACC논문에서밝혔습니다.Auto-MACE모델은사망사례의69%와잠재적뇌졸중의81%를자신있게판정했으며,불확실한사례에대해서만인간의검토가필요했습니다.​업계영향화이자,존슨앤드존슨,노바티스등제약사들은개발기간과비용감소의수혜를받을것으로보입니다.IQVIA와같은계약연구기관들은이미AI솔루션을도입하고있으며,한설문조사에따르면타당성평가에소요되는시간이90%까지줄었다고합니다.​최근업계분석에따르면,임상시험에AI를통합하면시험당최대70%의비용절감과80%의기간단축이가능하다고합니다.2030년까지AI가임상시험의60~70%에통합될것으로예상되며,이는제약업계에연간200~300억달러의비용절감효과를가져올수있습니다.​마이크로소프트와IBM등테크기업들은임상시험관리를위한AI-서비스형플랫폼개발에유리한위치에있습니다.심혈관연구재단의알렉산드라포프마는Auto-MACE의결과를"환상적"이라며,이는"AI를임상시험의일부로공식적으로도입하는과정의중요한단계"라고평가했습니다.
74 조회
0 추천
11.15 등록
(퍼플렉시티가정리한기사)이번주주요엔터프라이즈소프트웨어공급업체들의일련의발표는에이전틱AI(지속적인인간감독없이의사결정을내리고행동을취할수있는자율시스템)가파일럿프로젝트에서프로덕션준비플랫폼으로이동했음을알리는신호입니다.11월13-14일,Cisco,Salesforce,NTTDATA를포함한기업들이상당한비용절감과효율성향상을약속하는이니셔티브를공개했습니다.Cisco는AICanvas플랫폼을강화하기위해소형언어모델을전문으로하는시애틀기반스타트업NeuralFabric을인수하겠다는의사를발표했습니다.회사에따르면,NeuralFabric의기술은조직이일반적인대형모델을배포하는것보다"90-99%저렴한"도메인별AI모델을구축할수있게합니다.2026년1월말까지완료될것으로예상되는이번인수는기업들이독점정보의보안을보장하면서공개데이터셋과비공개데이터를결합할수있도록함으로써데이터주권문제를해결합니다.​NTTDATA는11월14일ISGProviderLens에의해에이전틱AI서비스와생성형AI서비스부문모두에서리더로선정되었으며,이는생성형AI카테고리에서2년연속최고인정을받은것입니다.ISG보고서에따르면,회사의SmartAIAgentEcosystem은"30-50%의효율성향상,다운타임감소,고객만족도개선"을제공합니다.이생태계는인프라,오케스트레이션,개발및관찰성을아우르며,프로코드와로우코드개발을모두지원합니다.​조직변화가중심무대에오르다Kyndryl은11월13일인력전환과조직변화관리에초점을맞춘새로운자문서비스를출시했습니다.이회사의에이전틱AI프레임워크는중요한격차를해소합니다:Kyndryl의2025준비현황보고서에따르면,리더의87%가AI가1년내에일자리를재편할것으로예상하지만,인력이준비되어있다고답한비율은29%에불과합니다.​로우코드플랫폼도에이전틱기능을내장하고있습니다.Mendix는AgentsKit과AgentBuilder를도입했고,Appian은대규모에이전트배포를위한AgentStudio를발표했습니다.Deltek은"에이전틱재무마감"기능을포함하여ERP및프로젝트관리시스템전반에걸친에이전틱오케스트레이션을공개했으며,Pipefy는지능형문서처리기능을갖춘Agents2.0을출시했습니다.​데이터보호에멀티에이전트지원추가Druva는AmazonWebServices와파트너십을맺고11월14일데이터보호를위한멀티에이전트코파일럿에대해상세히발표했다.AmazonBedrockAgentCore로구축된이시스템은데이터검색,헬프데스크기능,백업작업시작과같은중요한작업을처리하는특화된에이전트들을특징으로한다.코파일럿은테스트중API선택에서91-93%의정확도를달성했으며,금융서비스사용사례에서조사시간을몇시간에서몇분으로단축했다.​글로벌에이전틱AI시장이2025년72억9천만달러에서2032년883억5천만달러로성장할것으로예상됨에따라이러한발표들이잇따르고있다.
69 조회
0 추천
11.15 등록
홈으로 전체메뉴 마이메뉴 새글/새댓글
전체 검색
회원가입