Ricursive AI 发布 Ripple-65B Preview:65B 稠密开源模型 Terminal-Bench 2.1 得分 80.5
Ricursive AI Releases Ripple-65B Preview: A 65B Dense Open-Weight Model Scoring 80.5 on Terminal-Bench 2.1
Ricursive Intelligence 发布 Ripple-65B Preview,这是一个 65B 稠密开源权重模型,从零预训练用于智能体编码,在 Terminal-Bench 2.1 上自报 80.5 分。
65B 稠密模型在 Terminal-Bench 2.1 上自报 80.5,可与同表 501B 至 975B 的 MoE 对手逐项对照。
Ricursive Intelligence 刚刚发布了 Ripple-65B Preview。Ripple-65B Preview 是 Ricursive 推出的 65B 稠密开放权重模型,从零开始预训练,面向智能体编程。它是 Ricursive AI 芯片设计平台背后专有模型的通用版本。主要宣称:Terminal-Bench 2.1 上 80.52,是美国开放权重模型中自报的最高分。在该测试中被它击败的每个 MoE 对手都拥有 501B 至 975B 总参数。
TL;DR
- 规模:65B 稠密(65B 激活),在 12T token 上预训练,上下文最高 1M。
- 运行于:数据中心 GPU 上的 BF16(2x B200 上 250 tok/s)。实验性 NVFP4 构建面向 NVIDIA DGX Spark。
- 性能:同规模下达到前沿级智能体编程能力;在知识和科学编程上落后于更大的 MoE 模型。
- 最佳:Terminal-Bench 2.1,80.5(自报)。
- 最差:SciCode,39.4,是 Ricursive 自家表格中 5 个模型里最低的。
Ripple-65B Preview 是什么?
本次发布包含 3 个检查点:一个指令微调的 BF16 模型、一个 NVFP4 版本,以及一个 BF16 基础模型。全部以 Apache 2.0 发布。预训练使用纯文本语料,以英语和代码为主,序列长度为 8K。
Ricursive 团队表示完整研发成本为 3200 万美元。该数字涵盖阶梯实验、数据混合、评测、合成数据和最终训练运行。Ricursive 团队估计,这仅为此前开放权重智能体编程领先者成本的十分之一。
架构如何工作?
Ricursive 选择稠密 Transformer 而非混合专家,以降低基础设施复杂度。训练在简单分片、无自定义内核、无量化的情况下保持了 40% MFU。
该模型窄而深:d_model 为 5120,共 80 层。它从 Olmo 3 类似 Llama 的布局转向类似 Gemma 3N 的设计以提升稳定性。关键选择:
Ricursive 团队通过从 Olmo 3 的阶梯开始的阶梯实验构建了配方。它拒绝了在 4B 规模下无法保持的改动,例如 2-stream mHC。技术文章报告在 4B 规模下代码计算效率提升 16 倍。
如何做后训练?
后训练依次进行了中训练、长上下文、SFT、长上下文 SFT 和混合 RL。长上下文阶段以 2M 序列长度训练。Ricursive 没有购买后训练数据,而是构建了自己的合成流水线。
RL 配方结合了截断重要性采样、分数居中和线性长度惩罚。Ripple 用 140 万次 rollout 在 Terminal-Bench 2.1 上达到 80.5。Ricursive 称这比 Beam 大约少 70 倍,后者报告了超过 1 亿次 rollout。
Ripple-65B 在基准测试上表现如何?
Ricursive 团队使用 OpenCode 在内部补跑了缺失的评测,SWE-bench Pro v2.0 Hard 和 DeepSWE 1.1 则使用 Terminus 2。以下分数为 Ricursive 展示的数据。
- Terminal-Bench 2.1:80.5,对比 Beam 80.1、Muse Spark Open 76.4、Inkling 63.8、Nemotron 3 Ultra 56.4。
- SWE-bench Pro v2.0 Hard:79.1,为 Ricursive 表格中的最高分。
- SWE-bench Verified:76.5,低于 Beam 和 Inkling。
- 数学:AIME 2025 上 98.3,HMMT Feb 2026 上 90.5。
- 薄弱环节:SciCode 39.4、DeepSWE 1.1 44.3、MCP Atlas 71.67、GPQA Diamond 85.2。
Ricursive 团队还在 128K 下用官方 Terminus 2 harness 重新运行了 Terminal-Bench 2.1。多数竞争对手在该设置下分数下降;Beam 降至 70.8。Muse Spark Open 升至 78.7,仍低于 Ripple 的 80.5。
对比表
| 特性 | Ripple-65B Preview | Reflection Beam | Meta Muse Spark Open | Thinking Machines Inkling | NVIDIA Nemotron 3 Ultra |
|---|---|---|---|---|---|
| 架构 | Dense | MoE | MoE | MoE | Hybrid Mamba-2 LatentMoE |
| 总参数 | 65B | 501B | 816B | 975B | 550B |
| 激活参数 | 65B | 23B | 42B | 41B | 55B |
| 预训练 token 数 | 12T | 23.8T | 未披露 | 45T(据 Ricursive 表格) | ~20T |
| 上下文 | 最高 1M | 1M(midtraining) | 1M | 1M | 最高 1M |
| 许可证 | Apache 2.0 | Apache 2.0 | Muse Model License | Apache 2.0 | OpenMDW-1.1 |
| 输入模态 | 文本 | 文本 | 文本、图像、视频、音频 | 文本、图像、音频 | 文本 |
| 自托管最低配置 | DGX Spark 级别(NVFP4) | 未披露 | 700GB VRAM(NVFP4) | 600GB VRAM(NVFP4) | 8x B200 或 16x H100 |
| Terminal-Bench 2.1 | 80.5 | 80.1 | 76.4 | 63.8 | 56.4 |
| SWE-bench Verified | 76.5 | 80.9 | Meta 未披露 | 77.6 | 70.7 |
| GPQA Diamond | 85.2 | 博客中未披露 | 89.0 | 87.2 | 87.0 |
Ripple 分数来自 Ricursive 模型卡。竞争对手分数来自各厂商自己的来源。均为自报数据。
开发者可以在哪里运行它?
权重已发布在 Hugging Face 上。Ricursive 列出 Together AI、GMI Cloud 和 OpenRouter 为首发平台,Fireworks 稍后加入。Together AI 的页面目前将该模型标记为即将推出。
在数据中心 GPU 上,该模型在 batch 8、量化前于 2x B200 上达到 250 tok/s。实验性 NVFP4 checkpoint 对 MLP 层进行量化,注意力保持 BF16。Ricursive 团队将其定位为面向 NVIDIA DGX Spark 等本地设备。另有一个 DFlash2 变体也已列出。
关键要点
- 65B dense、12T token、1M 上下文、Apache 2.0。
- Terminal-Bench 2.1 上 80.5,在美国开放权重模型中排名第一。
- 研发总投入 3200 万美元,140 万次 RL rollout。
- NVFP4 版本面向 DGX Spark 级别本地硬件。
- 在 SciCode、DeepSWE 和 MCP Atlas 上落后于更大的 MoE 竞争对手。
查看发布博客、模型卡和 NVFP4 checkpoint。另外,欢迎在 Twitter 上关注我们,别忘了加入我们的 150k+ ML SubReddit 并订阅我们的 Newsletter。等等!你在用 Telegram 吗?现在你也可以在 Telegram 上加入我们了。
需要与我们合作推广你的 GitHub Repo、Hugging Face 页面、产品发布或网络研讨会等?联系我们
文章 Ricursive AI Releases Ripple-65B Preview: A 65B Dense Open-Weight Model Scoring 80.5 on Terminal-Bench 2.1 首次发布于 MarkTechPost。
来源:MarkTechPost · marktechpost.com