谷歌与Meta开源TorchTPU，PyTorch模型可迁移至TPU

谷歌宣布开源与Meta PyTorch团队共同开发的原生TPU软件栈TorchTPU，开发者用较少代码改动即可把现有PyTorch模型部署到谷歌TPU上。谷歌称，开发者只需设置device_map="tpu"，即可将模型部署到TPU。 该方案已接入vLLM、SGLang、llm-d、TorchTitan、VeRL、Ray、Hugging Face和LiteRT等工具，覆盖训练、推理、强化学习、集群调度和端侧部署。谷歌还在GitHub上预览发布TPU agent suite。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。