跳到正文
热点事件持续更新

EAGLE-4 投机解码模型发布,称在 Qwen 上达 961.6 tokens/s

1 篇报道1 个报道来源8 小时前更新

先了解这件事

AI 综述

EagleCorp 发布 EAGLE-4 投机解码模型。Rohan Paul 在 X 上称,该模型在阿里巴巴 Qwen3.8-27B 上配合 TokenSpeed 达到 961.6 tokens/s,测试条件为 BF16、4 张 NVIDIA B300、TP4、单请求、温度 0。 据 Rohan Paul 解读,EAGLE-4 保留“草稿加校验”的循环,改进集中在草稿侧:采用自适应草稿结构和更廉价的草稿 LM head,由小模型先猜若干 token,目标模型一次前向全部校验,保留匹配项并替换首个不匹配项。上述速度数字来自发布方及解读者的说法,并非独立验证结果。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月21日
  1. Rohan Paul (X)
    Rohan Paul 解读 EAGLE-4 投机解码提速原理

    Rohan Paul 解读 EAGLE-4 投机解码为何能提升推理速度,指出它已成为在选定模型上提高每秒 token 数的可靠手段。EAGLE-4 保留草稿加校验的循环,把改进放在草稿侧,采用自适应草稿结构和更廉价的草稿 LM head;小模型先猜若干 token,目标模型一次前向全部校验,保留匹配项并替换首个不匹配项。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。