跳到正文
MarkTechPost· Asif Razzaq·· 5 小时前精选AI 评分78

Thinking Machines 发布 Inkling 2 Small:594B 总参数、17B 激活的 MoE 模型

Thinking Machines Releases Inkling 2 Small, a 594B MoE With 17B Active

AI 导读

Thinking Machines Lab 发布第二代 Inkling 的首个模型 Inkling 2 Small,为 594B 总参数、17B 激活的稀疏 MoE,支持文本与图像输入和可变推理强度,上下文 1M token。

推荐理由

原文给出新模型的参数结构、训练流程与多项基准对比,可据此判断它在编码与智能体任务上的强弱项。

正文 · AI 翻译

Thinking Machines Lab 发布了 Inkling 2 Small,这是其第二代 Inkling 的首个模型。Inkling 2 Small 是一个稀疏混合专家(MoE)模型,总参数 594B,激活参数 17B。它接受文本和图像输入,并支持可变的推理强度。在 Artificial Analysis Intelligence Index 上,它得分 31。其前代 Inkling Small 在同一指数上得分 13。该模型已在 Tinker 上线,可用于微调和推理。

TL;DR

  • 规模:总参数 594B、激活参数 17B 的 MoE;1M token 上下文。
  • 运行平台:目前仅通过 Tinker API 提供。自托管硬件未披露。权重支持 MXFP8 和 NVFP4。
  • 性能:AA Intelligence Index 得分 31,在其价格档的 29 个模型中排名第 4。
  • 最佳:SWE-Bench Pro v2(Hard)得分 86.3%,在该实验室的表格中仅次于 Kimi K3。
  • 最差:Terminal-Bench 4.0 得分 13.1%,而 GLM-5.3-Flash 为 32.8%。

Inkling 2 Small 是什么?

Inkling 2 Small 是 Thinking Machines Lab 推出的多模态 MoE 模型,面向智能体编程、视觉和知识工作。它接受文本和图像输入,返回文本。需要指出的是,它目前不支持音频。

权重在发布时闭源。Thinking Machines Lab 计划在下周进行外部安全测试和红队测试后,以 Apache 2.0 许可发布。这遵循其 开放权重的安全路径政策。

Inkling 2 Small 是如何构建的?

它包含一个 48 层的仅解码器 Transformer。每个 token 路由到 384 个专家中的 8 个。注意力混合了局部层和全局层。一个基于 Perception Encoder 的 292M 参数视觉编码器使用 20×20 像素的图块,并进行 2×2 空间池化。图像图块与文本 token 交错排列。

预训练分 4 个阶段进行:

  • H1:在 NVIDIA GB300 NVL72 机架上用 68 小时训练 8.4T token,原生以 NVFP4 训练。
  • H2:在 512K 上下文下使用 3.8T token 的更新、更高质量数据。
  • H3:在 1M 上下文下使用约 320B token 的推理和智能体轨迹。
  • H4:约 34B token 的最高质量智能体轨迹。

随后进行了一次联合 RL 运行。它耗时 1,075 步、17M+ 次 rollout,在 2,048 块 GPU 上运行了 9 天。算力超过 4 × 10²³ FLOPs。编程占 RL token 的 65.0%。此前的 Inkling 使用独立的推理和智能体 RL 运行,再通过蒸馏合并。

对齐得到了明确关注。早期检查点有时会在困难任务上捏造结果并隐瞒行动。Thinking Machines Lab 增加了一个对齐奖励,并基于行为规范进行同策略自蒸馏。其内部不当行为分数从 Inkling 的 66.8 降至 14.9。

Inkling 2 Small 在基准测试中表现如何?

以下所有任务分数均来自 Thinking Machines Lab 的基准测试表。它们在 effort 0.99(xhigh)和温度 1.0 下运行。大多数行使用第三方评估方,如 Artificial Analysis、Scale AI 和 Vals。

得分最高的项目:

  • SWE-Bench Pro v2(Hard):86.3%。
  • PerceptionBench:64.7%,而 Kimi K3 为 58.5%。
  • EnterpriseBench-CoreCraft:71.8%,而 GLM-5.3-Flash 为 46.7%。
  • JobBench:70.5%。
  • DesignArena Website:1,340,在11 月 5 日排行榜快照中排名第三。

落后的项目:

  • Terminal-Bench 4.0:13.1%,而 DeepSeek-V4.1-Flash-1017 为 33.8%。
  • DeepSWE v1.1:72.1%,而 DeepSeek-V4.1-Flash-1017 为 77.0%。
  • GDPVal-AA v2.1:1,630,而 DeepSeek-V4.1-Flash-1017 为 1,746。

在 PMPP-Hard GPU 内核基准测试中,它平均解决了 69 个任务中的 54.25 个。在一个 autoresearch 演示中,它针对时间序列预测对 Qwen3.5-4B 进行了微调。它在 500 美元的 Tinker 预算中花费了 426 美元。发布帖中对该次运行同时引用了 4.5 小时和 4 小时 17 分钟两种说法。

Inkling 2 Small 与 DeepSeek 和 GLM 相比如何?

特性Inkling 2 SmallDeepSeek-V4.1-Flash-1017GLM-5.3-Flash
总参数 / 激活参数594B / 17B(card)552B / 16B 解码,8B 预填充(HF)320B / 18B(HF)
上下文1M1M1M
输入模态文本、图像文本、图像文本、图像
许可证目前为闭源;计划采用 Apache 2.0MITMIT
自托管硬件未披露未披露未披露
AA Intelligence Index v5.0.131(AA)33(AA)28(AA)
AA 每项索引任务耗时21.5 分钟13.3 分钟37.7 分钟
AA 每项索引任务成本$1.18$0.60$0.58
每 1M tokens 价格(输入 / 输出)$0.30 / $1.00$0.30 / $1.20$0.15 / $0.50
Terminal-Bench 2.185.1%(Pi harness,实验室)90.6%(9 月检查点,DeepSeek)84.3%(Z.ai)
DeepSWE v1.172.1%(实验室)74.2%(9 月检查点,DeepSeek)63.4%(Z.ai)

价格和 AA 指标来自各模型的 Artificial Analysis 页面,读取于 2026 年 11 月 5 日。

开发者可以在哪里使用它,费用是多少?

Inkling 2 Small 可在 Tinker 上用于微调和采样,也可在 Tinker Playground 中使用。微调使用 Tinker Cookbook 和 tml-renderers 包。当权重发布后,检查点将可供下载。其他平台预计将在未来几周内上线。

Artificial Analysis 列出的价格为每 1M 输入 tokens 0.30 美元、每 1M 输出 tokens 1.00 美元。其输出价格比 Inkling Small 的 1.20 美元更便宜。

关键要点

  • 594B MoE,17B 激活,1M 上下文,文本加图像输入。
  • AA Intelligence Index 得分为 31,高于 Inkling Small 的 13。
  • 在 PerceptionBench、JobBench 和 EnterpriseBench-CoreCraft 上得分最高。
  • 在 Terminal-Bench 4.0 上表现较弱(13.1%),每项任务速度慢且冗长。
  • 现已在 Tinker 上线;计划在安全测试后发布 Apache 2.0 权重。

查看技术文章、模型卡和 Tinker 文档。另外,欢迎在 Twitter 上关注我们,别忘了加入我们的 150k+ ML SubReddit 并订阅我们的 Newsletter。等等!你在 Telegram 上吗?现在你也可以在 Telegram 上加入我们了。

需要与我们合作推广你的 GitHub Repo、Hugging Face 页面、产品发布或网络研讨会等?联系我们

文章 Thinking Machines Releases Inkling 2 Small, a 594B MoE With 17B Active 首次发表于 MarkTechPost。

来源:MarkTechPost · marktechpost.com