Rohan Paul 解读 EAGLE-4 投机解码提速原理

Rohan Paul 解读 EAGLE-4 投机解码为何能提升推理速度，指出它已成为在选定模型上提高每秒 token 数的可靠手段。EAGLE-4 保留草稿加校验的循环，把改进放在草稿侧，采用自适应草稿结构和更廉价的草稿 LM head；小模型先猜若干 token，目标模型一次前向全部校验，保留匹配项并替换首个不匹配项。