Rohan Paul 解读 EAGLE-4 投机解码提速原理
Rohan Paul 解读 EAGLE-4 投机解码为何能提升推理速度,指出它已成为在选定模型上提高每秒 token 数的可靠手段。EAGLE-4 保留草稿加校验的循环,把改进放在草稿侧,采用自适应草稿结构和更廉价的草稿 LM head;小模型先猜若干 token,目标模型一次前向全部校验,保留匹配项并替换首个不匹配项。
Rohan Paul 解读 EAGLE-4 投机解码为何能提升推理速度,指出它已成为在选定模型上提高每秒 token 数的可靠手段。EAGLE-4 保留草稿加校验的循环,把改进放在草稿侧,采用自适应草稿结构和更廉价的草稿 LM head;小模型先猜若干 token,目标模型一次前向全部校验,保留匹配项并替换首个不匹配项。
OXR 把解析失败纳入训练流程,在后训练阶段由 VLM 评估自身输出,用 rollout 分歧标记不确定样本,再由独立聚类模型归因,指导下一轮定向数据生成。该 1.3B 开源模型在 olmOCR-Bench、OmniDocBench 和 DocParsingBench 上排名第一,在单张 RTX PRO 6000 上的吞吐为 GLM-OCR 的 3.05 倍,是速度对比中最快的开源结果。
Simon Willison 发布 vibe coded 即时战略游戏 Battle Drones,经 12 个大版本迭代、321 次由 Claude Code 等编码智能体提交的 commit,可在手机和桌面浏览器运行。游戏含 9 种建筑、7 种地面载具、6 种空中载具和 3 种步兵单位,并支持两台邻近设备通过麦克风范围内的音频消息同步游戏状态实现多人对战。
VAST 开源 Project Eden 系列中的实时生成式渲染器 EdenLive,并同步开放 5B、14B 模型权重、实时流式推理代码、EdenGolem v0.1 与前端工作台。
推荐理由:VAST 开源实时世界模型 EdenLive,读者可了解其状态与渲染分工架构及 5B 模型在单卡上的实时表现。
记忆张量开源发布 MemT 1.0 系列记忆原生模型,包含 36B 参数、激活 3B 的 MemT-1.0-Nano(基座 Qwen3.6-35B-A3B)和 288B 参数、激活 17B 的 MemT-1.0-Flash(基座 DeepSeek-V4-Flash),在选定 Transformer 模块中增加与注意力并行的记忆分支。
记忆张量发布并开源记忆原生大模型 MemT 1.0,把记忆从外挂模块内化进底层架构,由模型自行学习读写、更新和调用记忆。团队用 340 亿 token 分两阶段训练,并引入 Mixture-of-Storage(MoS)架构管理固定体积的记忆状态。
Latent Space 播客访谈 Leash Bio 的 Ian Quigley,讨论该公司如何用 DNA 编码库(DEL)获取高通量蛋白与小分子结合数据,并训练出在公开基准上跟上 Boltz 的 Hermes 模型。访谈还提到他们用多年积累的数据搭建智能体科学推理沙盒,让 LLM 在 6.5M 分子、100 次预算内寻找最佳结合物,相关预印本、博客和开放数据集即将发布。
Together 与斯坦福提出 Hybrid Reasoning Agents,将高效的隐式推理与基于文本的检查及工具交互结合。该方法性能提升 10.4%,同时实现约 40% 的 token 减少、约 2 倍推理加速和约 3 倍成本节省。代码已开源于 github.com/togethercomputer/HybridAgent,论文见 arxiv.org/abs/2610.18861。
微软研究院开源 Agent Lightning v1.0,这是一个约 3500 行代码的轻量 Agentic RL 框架,提出 Harnessed Agentic RL 范式,让部署时使用的 agent harness 直接参与强化学习,无需在训练框架内重写 agent。
推荐理由:微软研究院开源约 3500 行的 Agent RL 框架,用真实 harness 参与训练,并给出 6000 样本提升 14.6 个点的完整流程。
Qwen-Image-2.1-Multiple-Angles-LoRA 模型:https://huggingface.co/akhaliq/Qwen-Image-2.1-Multiple-Angles-LoRA
Amazon AGI 推出 Adaptively Looped Diffusion Language Models 在平均基准得分上超越所有已评估的 DLM 及对应的 AR 基线 项目:https://alo-dlm.github.io/ 摘要:https://arxiv.org/abs/2610.04198 代码库:https://github.com/amazon-science/ALoDLM 模型:https://huggingface.co/amazon/ALoDLM-8B
Hugging Face 团队发布多 harness RL 训练指南,指出同一模型在相同权重下,在一个 agent harness 中得分 62%,在另一个中仅 33%。
推荐理由:同一模型在不同 agent harness 下得分相差近一倍,这篇开源研究给出了不改 harness 的多环境 RL 训练方法。
阿里发布 Qwen Intelligence,首批上线 Mobile Planner、Mobile-Use、Mobile Creative 三款手机端智能体。
推荐理由:官方给出三个手机端智能体的分工与基准成绩,并同步开放评测套件,便于判断移动端智能体当前能力边界。
Qwen 宣布 Qwen-Image-2.1 在 Hugging Face Spaces 上线可直接试用的在线 demo,无需任何环境配置即可在浏览器中体验。该模型用单个 checkpoint 同时支持图像生成与编辑;据 Hugging Apps 介绍,它是 7B 参数的原生图像生成与编辑模型,最多支持 10 张参考图,并自带提示词增强 LLM,已集成 diffusers 与 ComfyUI。
推荐理由:Qwen-Image-2.1 在 Hugging Face Spaces 上线可直接试用的在线 demo,读者无需配置环境即可体验生成与编辑共用一个 checkpoint 的效果。
DeepSeek 发布 DeepSeek Harness v0.1 开发者预览版,面向构建智能体框架的开发者开放,并以 MIT 许可证开源代码库。该框架基于 Cordis 元框架,核心设计是“一切皆插件”,模型、工具、技能、会话、沙箱、文件系统、循环、编排和 UI 均以插件形式实现,可自由组合、替换和扩展。
推荐理由:官方给出 Harness 的插件化架构与 MIT 开源仓库,读者可据此判断它能否接入现有智能体工作流。
Thinking Machines 发布 Inkling-Small,官方称其在四分之一体量下达到与 Inkling 相当的性能。该模型总参数 276B、激活参数 12B,完整权重已开放,可在 Tinker 上微调,并在 Tinker Playground 中体验文本、图像和音频交互。Mira Murati 转发了这一发布消息。
推荐理由:Inkling-Small 以四分之一体量达到与 Inkling 相当的性能,并开放完整权重,读者可据此判断小模型的部署与微调空间。
Berkeley Sky Lab 团队为 K-Search 增加 MLX 后端和结构化 CUDA-to-MLX 翻译层,让进化式内核搜索以现有 CUDA 内核为知识库生成 Apple Silicon 内核。
Berkeley AI Research 提出 SPEX 和 ProxySPEX 算法,用于在大规模场景下识别 LLM 的关键交互。SPEX 利用稀疏性和低阶性把交互搜索转化为稀疏恢复问题,ProxySPEX 进一步利用层级结构,以约 10 倍更少的消融实验达到 SPEX 的性能。在情感分析任务上,SPEX 在上下文扩展到数千个特征时仍保持高忠实度,优于 LIME、Banzhaf 等方法。
Berkeley AI Research 提出一种直接以互信息评估和优化成像系统的框架,无需任务专用解码器。该信息指标在彩色摄影、射电天文、无透镜成像和显微镜四个领域预测了系统性能,优化后的设计达到与端到端方法相当的水平,且内存和算力需求更低。方法利用已知噪声物理直接计算噪声项,仅需从测量数据中学习测量分布,并给出真实信息量的上界。
⚠️ 提醒所有使用 DeepSeek-V3.2-Exp 推理演示的用户:早期版本在 indexer 模块中存在 RoPE 实现不匹配的问题,可能导致性能下降。Indexer 的 RoPE 期望非交错输入,而 MLA 的 RoPE 期望交错输入。已在 https://github.com/deepseek-ai/DeepSeek-V3.2-Exp/tree/main/inference 修复。