跳到正文
热点事件持续更新

Google开源TPU Sync KV缓存传输库

1 篇报道1 个报道来源15 小时前更新

先了解这件事

AI 综述

Google Cloud 开源了用 C++ 编写的 TPU Sync 库,用于在 Cloud TPU 上搬运 KV cache 和模型权重,采用 Apache-2.0 许可。 该库的 README 称目前尚不建议用于一般用途;存储使用实验性的 POSIX 后端,包括本地 SSD 和 Google Cloud Managed Lustre;强化学习与存储分层功能均为实验性,所有性能数字均为自报,Google 团队称实际效果会有差异。

AI 根据报道生成 · 14 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月13日
  1. MarkTechPost
    Google 开源 TPU Sync:面向 TPU 的 KV Cache 传输库

    Google Cloud 开源了 TPU Sync,这是一个用 C++ 编写的库,用于在 Cloud TPU 上搬运 KV cache 和模型权重,采用 Apache-2.0 许可。

本事件热度走势

可比范围当前
7
可比范围峰值
1011月13日 20:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。