AWS Machine Learning Blog· Alex Iankoulski·· 4 小时前精选
AWS 讲解如何在 EKS 与 SageMaker HyperPod EKS 上部署 NVIDIA Nemotron 3.5 Super VL
Accelerate agentic AI with NVIDIA Nemotron models on Amazon EKS and SageMaker HyperPod EKS
AI 导读
AWS 介绍在 Amazon EKS、EKS Auto Mode 和 SageMaker HyperPod EKS 上用 NVIDIA Dynamo 与 vLLM 部署 NVIDIA Nemotron 3.5 Super VL 的架构与性能评估方法。
推荐理由
原文给出 Nemotron 3.5 Super VL 的部署架构和并发扫描方法，读者可据此估算单副本吞吐并规划容量。
来源：AWS Machine Learning Blog · aws.amazon.com