NVIDIA Triton이 클라우드 도입을 위한 AI 도구 선도

(퍼플렉시티가 정리한 기사)

Cloud Native Computing Foundation과 SlashData는 11월 11일 Q4 2025 Technology Landscape Radar 보고서의 연구 결과를 발표하며, 클라우드 네이티브 생태계에서 주목받고 있는 주요 AI 도구들을 확인했습니다. 애틀랜타에서 열린 KubeCon + CloudNativeCon North America 2025에서 발표된 이 연구는 전 세계 300명 이상의 전문 개발자를 대상으로 AI 추론 도구, ML 오케스트레이션 시스템 및 에이전틱 AI 플랫폼을 평가했습니다.​

NVIDIA Triton, DeepSpeed, TensorFlow Serving, BentoML이 도입을 위해 평가된 최고의 AI 추론 도구로 선정되었으며, NVIDIA Triton은 성숙도와 유용성 모두에서 가장 높은 점수를 받았습니다. 이 보고서는 사용량, 성숙도, 유용성 및 추천도에 대한 종합 점수를 기반으로 기술을 도입(adopt), 시험(trial), 평가(assess), 보류(hold)의 네 가지 범주로 분류했습니다.​

추론 도구 및 ML 오케스트레이션 리드 채택

AI 추론의 경우, NVIDIA Triton은 인프라 집약적 AI 워크로드를 다루는 개발자들로부터 강한 신뢰를 받았으며, 50%가 성숙도에 대해 별 5개 등급을, 41%가 유용성에 대해 별 5개 등급을 부여했습니다. Adlik은 덜 널리 사용되지만, 현재 또는 이전 사용자들 사이에서 92%로 가장 높은 추천율을 기록했습니다.​

ML 오케스트레이션 카테고리에서는 Airflow와 Metaflow가 채택(adopt) 상태에 도달했습니다. Metaflow는 개발자의 84%가 별 4개 또는 5개로 평가하여 성숙도에서 선두를 차지했으며, Airflow는 유용성 평가에서 1위를 차지했고 특히 유용성에 대해 별 1개 또는 2개 평가를 받지 않았습니다. BentoML은 추론에 대해서는 채택(adopt) 등급을, 오케스트레이션에 대해서는 시험(trial) 등급을 받았으며, 이는 다중 역할 도구가 도메인 전반에 걸쳐 고르지 않게 성공할 수 있음을 보여줍니다.​

에이전틱 AI 플랫폼, 엇갈린 평가 보여

모델 컨텍스트 프로토콜(MCP)과 Llama Stack은 채택 카테고리에 도달한 유일한 에이전트 AI 도구였습니다. MCP는 80%로 4점과 5점 유용성 점수를 합한 점수가 가장 높았으며, 상위 도구 중 가장 광범위한 개발자 기반을 보유하고 있었습니다. Agent2Agent(A2A)는 더 새롭고 덜 성숙했지만 94%로 가장 높은 추천율을 받았습니다.​

CNCF의 CTO인 Chris Aniszczyk는 "AI 시스템을 구축하고 운영하는 조직들은 5년 전처럼 도구를 다룰 수 없습니다"라고 말했습니다. "이 새로운 연구가 확인하는 것은 확장 가능한 인프라와 오케스트레이션의 클라우드 네이티브 원칙이 백엔드 앱뿐만 아니라 추론 파이프라인과 에이전트 AI 시스템에도 기초가 된다는 것입니다."​

데이터는 현재 AI/ML 개발자의 41%가 클라우드 네이티브로 자신을 식별하며, 이 수치는 증가할 것으로 예상됩니다. 보고서는 개발자들이 스스로를 클라우드 네이티브라고 표시하지 않더라도, 그들의 AI/ML 시스템은 컨테이너화, 오케스트레이션, 확장성 및 신뢰성을 포함한 클라우드 네이티브 아키텍처에 의존한다는 것을 발견했습니다.