Nemotron 3.5 Super VL 登陆 AWS 并给出 EKS 部署指南

AWS 发布部署指南，介绍如何在 Amazon EKS、EKS Auto Mode 和 SageMaker HyperPod EKS 上部署 NVIDIA Nemotron 3.5 Super VL。该模型已加入 AWS 上已有的 Nemotron 3 系列。 据 AWS 介绍，Nemotron 3.5 Super VL 是 120B 参数的 MoE 多模态模型，每个 token 激活 12B 参数，支持文本、图像、文档和视频输入，上下文长度最高 1M tokens。NVIDIA 公开了模型权重、训练数据集和后训练配方，用户可针对特定领域工作负载进行定制，并在自己控制的基础设施上运行；指南建议用户在自己的账户中、使用参考实现完成部署。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。