腾讯优图等提出并行推测解码方法DSpine

腾讯优图实验室、上海交通大学和厦门大学团队提出并行推测解码方法 DSpine，通过逐层注入紧邻前驱的预测特征补齐因果依赖。团队称，在 Qwen3-4B 和 Qwen3-8B 上进行的 28 组接受长度与 40 组 SGLang 服务吞吐评测中，DSpine 全部排名第一，SGLang 吞吐最高达自回归的 4.01 倍。 团队已开放推理代码与开源模型权重，并同步开源面向生产环境的 Qwen3-8B 和 Qwen3.8-27B 草稿权重；推理实现封装为轻量插件接入 SGLang。DSpine 已落地腾讯 WorkBuddy 线上推理业务，开发者可通过挂载插件体验加速。

AI 根据报道生成 · 28 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。