跳到正文
NVIDIA Blog· Uttara Kumar·· 2 小时前精选AI 评分72

Google Cloud 与 NVIDIA 宣布 Vera Rubin 基础设施正式可用

Google Cloud and NVIDIA Announce General Availability of NVIDIA Vera Rubin Infrastructure

AI 导读

Google Cloud 与 NVIDIA 宣布 NVIDIA Vera Rubin 基础设施正式可用,A5X 实例将于下月开放,并计划扩展至欧洲。

推荐理由

Google Cloud 与 NVIDIA 公布 A5X 实例的可用时间与欧洲扩展计划,读者可据此判断大规模强化学习负载的部署节奏。

正文 · AI 翻译

译文尚不完整,完整内容请切换到原文。

这些实例将于下个月正式全面上市,并计划将可用范围扩展至欧洲——为云客户带来一个集训练、推理和大规模强化学习于一体的集成平台。

A5X 实例将 NVIDIA Vera Rubin NVL72、NVIDIA ConnectX-9 SuperNIC、Google Cloud Virgo 网络以及 Google Cloud 第四代先进液冷技术整合在一起,用于大规模运行高要求的智能体推理和强化学习工作负载。Google Cloud 计划将其基于 Vera Rubin 的基础设施扩展至多个站点,最多部署 960,000 块 Rubin GPU。

Ineffable Intelligence是一家总部位于伦敦的科技公司,由 AlphaGo 创造者 David Silver 创立,是首家使用 A5X 的客户。Ineffable 正利用该平台推进大规模强化学习,并打造能够从经验中持续学习的“超级学习者”系统。

阅读 NVIDIA 在欧洲的全部公告

通过交互进行学习需要持续循环地生成经验、评估结果并更新模型,这要求基础设施能够大规模支撑整个流程。A5X将 Vera Rubin 作为集成系统引入 Google Cloud 的 AI Hypercomputer,融合计算、网络和存储,以支持大规模的体验驱动型学习。

“我们正在构建能够通过自身经验不断改进的超级学习者,”Ineffable Intelligence 创始人兼首席执行官 David Silver 表示。“这既需要大量算力,也需要在生成经验与基于经验进行训练之间建立紧密连接,使智能体的每一次改进都能迅速塑造其下一次体验。Vera Rubin 将计算性能与高带宽连接相结合——既包括 Vera CPU 与 Rubin GPU 之间,也包括机架内 Rubin GPU 之间——使我们能够进一步拓展强化学习研究的规模和雄心。”

WPP是一家总部位于伦敦的营销与传播公司,它还在基于 NVIDIA Vera Rubin 的 A5X 实例上,使用 NVIDIA Nemotron 模型和 NVIDIA OpenShell 展示了其创意智能体参考架构。NVIDIA OpenShell 是用于安全 AI 智能体的NVIDIA OpenShell 参考架构的一部分。 

这些智能体将对话式请求转化为多步骤创意工作流,例如视频生成、放大和风格重塑,并在执行前经过人工批准。OpenShell 为智能体执行提供受治理的沙箱,帮助控制对敏感品牌资产和创意工具的访问。在WPP的初步测试中,通常需要多节点集群的工作负载在单个 A5X 实例上即可运行。

随着各组织部署智能体系统,它们需要保护驱动这些系统的专有模型和敏感数据——即使运行在并非自己拥有的基础设施上也是如此。

Google Cloud will be among the first cloud providers to offer NVIDIA Confidential Computing at rack scale on bare metal instances such as A4X Max instances powered by NVIDIA GB300 NVL72. Additionally, Google Cloud is making Confidential Computing generally available on G4 VMs powered by NVIDIA RTX PRO 6000 Blackwell Server Edition GPUs, offering a flexible platform for confidential inference and fine-tuning. Customers including Vertebrae, Polaris Cloud and Confidential Core AI are using Confidential G4 for conversational privacy, verifiable agent execution and policy-governed enterprise intelligence.

为支持大规模高能效部署,Google Cloud 与 NVIDIA 正在探索面向基于 Vera Rubin 的基础设施的 NVIDIA DSX MaxLPS 能力,以帮助优化每瓦性能,并在可用数据中心电力预算内扩展容量。

了解更多 关于 NVIDIA Vera Rubin 和 Google Cloud A5X 实例的信息。

阅读 NVIDIA 在欧洲的全部公告

来源:NVIDIA Blog · blogs.nvidia.com