北大团队提出跨模型注意力图复用方法MapFlow
热点事件观察中
北大团队提出跨模型注意力图复用方法MapFlow
1 篇报道1 个报道来源2 天前更新
先了解这件事
AI 综述
北京大学数据与智能实验室苗旭鹏团队提出跨模型注意力图复用方法 MapFlow，将注意力图作为中间状态，让不同规模模型共享已算出的 token 依赖关系；过程中只训练映射权重，两个大模型的原始参数保持冻结。论文已被 SIGMOD 2027 录用，代码已开源并集成到 vLLM。 据论文评测，MapFlow 在保持所测任务生成质量的同时将 prefill 延迟降低 15%–20%；在多轮对话路由场景下，相同 P90 首 token 延迟约束内吞吐量最高提升 25%。这些数字来自团队论文评测，尚非独立验证。
AI 根据报道生成 · 1 天前更新
最新进展11月8日 15:00
北大团队提出 MapFlow，跨模型复用注意力图降低 prefill 延迟报道时间线
沿着报道，了解事件的不同侧面。
11月8日
- 机器之心北大团队提出 MapFlow，跨模型复用注意力图降低 prefill 延迟
北京大学数据与智能实验室苗旭鹏团队提出 MapFlow，将注意力图作为跨模型复用的中间状态，让不同规模模型共享已算出的 token 依赖关系。论文评测中，MapFlow 在保持所测任务生成质量的同时将 prefill 延迟降低 15%–20%，多轮对话路由场景下相同 P90 首 token 延迟约束内吞吐量最高提升 25%。该工作已被 SIGMOD 2027 录用，代码已开源，并集成到 vLLM。
本事件热度走势
- 可比范围当前
- 3
- 可比范围峰值
- 711月9日 02:00
- 近 24 小时变化
- -51%
02468
06:0012:0018:0011月10日06:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。