清华与港中大开源 AKV 缓存服务系统
热点事件持续更新
清华与港中大开源 AKV 缓存服务系统
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
清华大学与香港中文大学研究人员开源了 AKV，一个面向 LLM 智能体的 KV cache 工程服务系统。它基于 SGLang，让智能体丢弃选定的 KV cache 条目并复用其余部分，而不是摘要旧历史。代码采用 Apache-2.0 许可。 运行方面，AKV 通过 SGLang 在 NVIDIA GPU 上运行；快速启动示例用 2 块 GPU（张量并行 2）服务 GPT-OSS-120B。目前仅支持 Qwen、GPT-OSS 和 MiniMax-M2 三类文本模型。
AI 根据报道生成 · 2 小时前更新
最新进展10月26日 15:56
清华等开源 AKV：面向 LLM 智能体的 KV cache 工程服务系统报道时间线
沿着报道，了解事件的不同侧面。
10月26日
- MarkTechPost清华等开源 AKV：面向 LLM 智能体的 KV cache 工程服务系统
清华大学与香港中文大学研究人员开源 AKV，一个基于 SGLang 的 KV cache 工程服务系统，让智能体丢弃选定的 KV cache 条目并复用其余部分，而非摘要旧历史。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。