FlashMap 流图草稿器发布，LLM 解码最高提速 6.14 倍

Polymathic AI、普林斯顿大学、USC ISI、NYU 和 Flatiron Institute 的研究者发布 FlashMap，用连续流图替代离散扩散草稿器，一次前向传播草拟 16 个 token 的整块，报道称 LLM 解码最高提速 6.14 倍。 Qwen3-8B 和 Qwen3-4B 的草稿器权重已发布在 Hugging Face，并提供 vLLM 和 SGLang 插件；权重采用 Apache-2.0 许可，代码采用 MIT 许可。flashmap 包仅依赖 torch 和 transformers>=4.56。将 num_steps 设为 2 可用部分速度换取更高的接受率。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。