跳到正文
MarkTechPost· Asif Razzaq·· 3 小时前精选AI 评分75

Ricursive AI 发布 Ripple-65B Preview:65B 稠密开源模型 Terminal-Bench 2.1 得分 80.5

Ricursive AI Releases Ripple-65B Preview: A 65B Dense Open-Weight Model Scoring 80.5 on Terminal-Bench 2.1

AI 导读

Ricursive Intelligence 发布 Ripple-65B Preview,这是一个 65B 稠密开源权重模型,从零预训练用于智能体编码,在 Terminal-Bench 2.1 上自报 80.5 分。

推荐理由

65B 稠密模型在 Terminal-Bench 2.1 上自报 80.5,可与同表 501B 至 975B 的 MoE 对手逐项对照。

正文 · AI 翻译

Ricursive Intelligence 刚刚发布了 Ripple-65B Preview。Ripple-65B Preview 是 Ricursive 推出的 65B 稠密开放权重模型,从零开始预训练,面向智能体编程。它是 Ricursive AI 芯片设计平台背后专有模型的通用版本。主要宣称:Terminal-Bench 2.1 上 80.52,是美国开放权重模型中自报的最高分。在该测试中被它击败的每个 MoE 对手都拥有 501B 至 975B 总参数。

TL;DR

  • 规模:65B 稠密(65B 激活),在 12T token 上预训练,上下文最高 1M。
  • 运行于:数据中心 GPU 上的 BF16(2x B200 上 250 tok/s)。实验性 NVFP4 构建面向 NVIDIA DGX Spark。
  • 性能:同规模下达到前沿级智能体编程能力;在知识和科学编程上落后于更大的 MoE 模型。
  • 最佳:Terminal-Bench 2.1,80.5(自报)。
  • 最差:SciCode,39.4,是 Ricursive 自家表格中 5 个模型里最低的。

Ripple-65B Preview 是什么?

本次发布包含 3 个检查点:一个指令微调的 BF16 模型、一个 NVFP4 版本,以及一个 BF16 基础模型。全部以 Apache 2.0 发布。预训练使用纯文本语料,以英语和代码为主,序列长度为 8K。

Ricursive 团队表示完整研发成本为 3200 万美元。该数字涵盖阶梯实验、数据混合、评测、合成数据和最终训练运行。Ricursive 团队估计,这仅为此前开放权重智能体编程领先者成本的十分之一。

架构如何工作?

Ricursive 选择稠密 Transformer 而非混合专家,以降低基础设施复杂度。训练在简单分片、无自定义内核、无量化的情况下保持了 40% MFU。

该模型窄而深:d_model 为 5120,共 80 层。它从 Olmo 3 类似 Llama 的布局转向类似 Gemma 3N 的设计以提升稳定性。关键选择:

Ricursive 团队通过从 Olmo 3 的阶梯开始的阶梯实验构建了配方。它拒绝了在 4B 规模下无法保持的改动,例如 2-stream mHC。技术文章报告在 4B 规模下代码计算效率提升 16 倍。

如何做后训练?

后训练依次进行了中训练、长上下文、SFT、长上下文 SFT 和混合 RL。长上下文阶段以 2M 序列长度训练。Ricursive 没有购买后训练数据,而是构建了自己的合成流水线。

RL 配方结合了截断重要性采样、分数居中和线性长度惩罚。Ripple 用 140 万次 rollout 在 Terminal-Bench 2.1 上达到 80.5。Ricursive 称这比 Beam 大约少 70 倍,后者报告了超过 1 亿次 rollout。

Ripple-65B 在基准测试上表现如何?

Ricursive 团队使用 OpenCode 在内部补跑了缺失的评测,SWE-bench Pro v2.0 Hard 和 DeepSWE 1.1 则使用 Terminus 2。以下分数为 Ricursive 展示的数据。

  • Terminal-Bench 2.1:80.5,对比 Beam 80.1、Muse Spark Open 76.4、Inkling 63.8、Nemotron 3 Ultra 56.4。
  • SWE-bench Pro v2.0 Hard:79.1,为 Ricursive 表格中的最高分。
  • SWE-bench Verified:76.5,低于 Beam 和 Inkling。
  • 数学:AIME 2025 上 98.3,HMMT Feb 2026 上 90.5。
  • 薄弱环节:SciCode 39.4、DeepSWE 1.1 44.3、MCP Atlas 71.67、GPQA Diamond 85.2。

Ricursive 团队还在 128K 下用官方 Terminus 2 harness 重新运行了 Terminal-Bench 2.1。多数竞争对手在该设置下分数下降;Beam 降至 70.8。Muse Spark Open 升至 78.7,仍低于 Ripple 的 80.5。

对比表

特性Ripple-65B PreviewReflection BeamMeta Muse Spark OpenThinking Machines InklingNVIDIA Nemotron 3 Ultra
架构DenseMoEMoEMoEHybrid Mamba-2 LatentMoE
总参数65B501B816B975B550B
激活参数65B23B42B41B55B
预训练 token 数12T23.8T未披露45T(据 Ricursive 表格)~20T
上下文最高 1M1M(midtraining)1M1M最高 1M
许可证Apache 2.0Apache 2.0Muse Model LicenseApache 2.0OpenMDW-1.1
输入模态文本文本文本、图像、视频、音频文本、图像、音频文本
自托管最低配置DGX Spark 级别(NVFP4)未披露700GB VRAM(NVFP4)600GB VRAM(NVFP4)8x B200 或 16x H100
Terminal-Bench 2.180.580.176.463.856.4
SWE-bench Verified76.580.9Meta 未披露77.670.7
GPQA Diamond85.2博客中未披露89.087.287.0

Ripple 分数来自 Ricursive 模型卡。竞争对手分数来自各厂商自己的来源。均为自报数据。

开发者可以在哪里运行它?

权重已发布在 Hugging Face 上。Ricursive 列出 Together AI、GMI Cloud 和 OpenRouter 为首发平台,Fireworks 稍后加入。Together AI 的页面目前将该模型标记为即将推出。

在数据中心 GPU 上,该模型在 batch 8、量化前于 2x B200 上达到 250 tok/s。实验性 NVFP4 checkpoint 对 MLP 层进行量化,注意力保持 BF16。Ricursive 团队将其定位为面向 NVIDIA DGX Spark 等本地设备。另有一个 DFlash2 变体也已列出。

关键要点

  • 65B dense、12T token、1M 上下文、Apache 2.0。
  • Terminal-Bench 2.1 上 80.5,在美国开放权重模型中排名第一。
  • 研发总投入 3200 万美元,140 万次 RL rollout。
  • NVFP4 版本面向 DGX Spark 级别本地硬件。
  • 在 SciCode、DeepSWE 和 MCP Atlas 上落后于更大的 MoE 竞争对手。

查看发布博客、模型卡和 NVFP4 checkpoint。另外,欢迎在 Twitter 上关注我们,别忘了加入我们的 150k+ ML SubReddit 并订阅我们的 Newsletter。等等!你在用 Telegram 吗?现在你也可以在 Telegram 上加入我们了。

需要与我们合作推广你的 GitHub Repo、Hugging Face 页面、产品发布或网络研讨会等?联系我们

文章 Ricursive AI Releases Ripple-65B Preview: A 65B Dense Open-Weight Model Scoring 80.5 on Terminal-Bench 2.1 首次发布于 MarkTechPost。

来源:MarkTechPost · marktechpost.com