AI at Meta (X)· AIatMeta·· 2 天前AI 评分58
Meta 在 Prometheus 超算集群训练 Muse 基础模型
We trained our Muse foundational models, including Muse Wonder, at Prometheus, our gigawatt-scale supercluster in New Albany, Ohio.
AI 导读
Meta 在俄亥俄州 New Albany 的千兆瓦级超算集群 Prometheus 上训练了包括 Muse Wonder 在内的 Muse 基础模型。该集群拥有数十万块 GPU，预训练 goodput 达 85%+，强化学习 goodput 达 90%+，Muse Wonder 训练期间平均每次中断间隔约 47K GPU 小时。
来源：AI at Meta (X) · x.com