Thinking Machines 发布 Inkling 2 Small:594B 总参数、17B 激活的 MoE 模型
Thinking Machines Releases Inkling 2 Small, a 594B MoE With 17B Active
Thinking Machines Lab 发布第二代 Inkling 的首个模型 Inkling 2 Small,为 594B 总参数、17B 激活的稀疏 MoE,支持文本与图像输入和可变推理强度,上下文 1M token。
原文给出新模型的参数结构、训练流程与多项基准对比,可据此判断它在编码与智能体任务上的强弱项。
Thinking Machines Lab 发布了 Inkling 2 Small,这是其第二代 Inkling 的首个模型。Inkling 2 Small 是一个稀疏混合专家(MoE)模型,总参数 594B,激活参数 17B。它接受文本和图像输入,并支持可变的推理强度。在 Artificial Analysis Intelligence Index 上,它得分 31。其前代 Inkling Small 在同一指数上得分 13。该模型已在 Tinker 上线,可用于微调和推理。
TL;DR
- 规模:总参数 594B、激活参数 17B 的 MoE;1M token 上下文。
- 运行平台:目前仅通过 Tinker API 提供。自托管硬件未披露。权重支持 MXFP8 和 NVFP4。
- 性能:AA Intelligence Index 得分 31,在其价格档的 29 个模型中排名第 4。
- 最佳:SWE-Bench Pro v2(Hard)得分 86.3%,在该实验室的表格中仅次于 Kimi K3。
- 最差:Terminal-Bench 4.0 得分 13.1%,而 GLM-5.3-Flash 为 32.8%。
Inkling 2 Small 是什么?
Inkling 2 Small 是 Thinking Machines Lab 推出的多模态 MoE 模型,面向智能体编程、视觉和知识工作。它接受文本和图像输入,返回文本。需要指出的是,它目前不支持音频。
权重在发布时闭源。Thinking Machines Lab 计划在下周进行外部安全测试和红队测试后,以 Apache 2.0 许可发布。这遵循其 开放权重的安全路径政策。
Inkling 2 Small 是如何构建的?
它包含一个 48 层的仅解码器 Transformer。每个 token 路由到 384 个专家中的 8 个。注意力混合了局部层和全局层。一个基于 Perception Encoder 的 292M 参数视觉编码器使用 20×20 像素的图块,并进行 2×2 空间池化。图像图块与文本 token 交错排列。
预训练分 4 个阶段进行:
- H1:在 NVIDIA GB300 NVL72 机架上用 68 小时训练 8.4T token,原生以 NVFP4 训练。
- H2:在 512K 上下文下使用 3.8T token 的更新、更高质量数据。
- H3:在 1M 上下文下使用约 320B token 的推理和智能体轨迹。
- H4:约 34B token 的最高质量智能体轨迹。
随后进行了一次联合 RL 运行。它耗时 1,075 步、17M+ 次 rollout,在 2,048 块 GPU 上运行了 9 天。算力超过 4 × 10²³ FLOPs。编程占 RL token 的 65.0%。此前的 Inkling 使用独立的推理和智能体 RL 运行,再通过蒸馏合并。
对齐得到了明确关注。早期检查点有时会在困难任务上捏造结果并隐瞒行动。Thinking Machines Lab 增加了一个对齐奖励,并基于行为规范进行同策略自蒸馏。其内部不当行为分数从 Inkling 的 66.8 降至 14.9。
Inkling 2 Small 在基准测试中表现如何?
以下所有任务分数均来自 Thinking Machines Lab 的基准测试表。它们在 effort 0.99(xhigh)和温度 1.0 下运行。大多数行使用第三方评估方,如 Artificial Analysis、Scale AI 和 Vals。
得分最高的项目:
- SWE-Bench Pro v2(Hard):86.3%。
- PerceptionBench:64.7%,而 Kimi K3 为 58.5%。
- EnterpriseBench-CoreCraft:71.8%,而 GLM-5.3-Flash 为 46.7%。
- JobBench:70.5%。
- DesignArena Website:1,340,在11 月 5 日排行榜快照中排名第三。
落后的项目:
- Terminal-Bench 4.0:13.1%,而 DeepSeek-V4.1-Flash-1017 为 33.8%。
- DeepSWE v1.1:72.1%,而 DeepSeek-V4.1-Flash-1017 为 77.0%。
- GDPVal-AA v2.1:1,630,而 DeepSeek-V4.1-Flash-1017 为 1,746。
在 PMPP-Hard GPU 内核基准测试中,它平均解决了 69 个任务中的 54.25 个。在一个 autoresearch 演示中,它针对时间序列预测对 Qwen3.5-4B 进行了微调。它在 500 美元的 Tinker 预算中花费了 426 美元。发布帖中对该次运行同时引用了 4.5 小时和 4 小时 17 分钟两种说法。
Inkling 2 Small 与 DeepSeek 和 GLM 相比如何?
| 特性 | Inkling 2 Small | DeepSeek-V4.1-Flash-1017 | GLM-5.3-Flash |
|---|---|---|---|
| 总参数 / 激活参数 | 594B / 17B(card) | 552B / 16B 解码,8B 预填充(HF) | 320B / 18B(HF) |
| 上下文 | 1M | 1M | 1M |
| 输入模态 | 文本、图像 | 文本、图像 | 文本、图像 |
| 许可证 | 目前为闭源;计划采用 Apache 2.0 | MIT | MIT |
| 自托管硬件 | 未披露 | 未披露 | 未披露 |
| AA Intelligence Index v5.0.1 | 31(AA) | 33(AA) | 28(AA) |
| AA 每项索引任务耗时 | 21.5 分钟 | 13.3 分钟 | 37.7 分钟 |
| AA 每项索引任务成本 | $1.18 | $0.60 | $0.58 |
| 每 1M tokens 价格(输入 / 输出) | $0.30 / $1.00 | $0.30 / $1.20 | $0.15 / $0.50 |
| Terminal-Bench 2.1 | 85.1%(Pi harness,实验室) | 90.6%(9 月检查点,DeepSeek) | 84.3%(Z.ai) |
| DeepSWE v1.1 | 72.1%(实验室) | 74.2%(9 月检查点,DeepSeek) | 63.4%(Z.ai) |
价格和 AA 指标来自各模型的 Artificial Analysis 页面,读取于 2026 年 11 月 5 日。
开发者可以在哪里使用它,费用是多少?
Inkling 2 Small 可在 Tinker 上用于微调和采样,也可在 Tinker Playground 中使用。微调使用 Tinker Cookbook 和 tml-renderers 包。当权重发布后,检查点将可供下载。其他平台预计将在未来几周内上线。
Artificial Analysis 列出的价格为每 1M 输入 tokens 0.30 美元、每 1M 输出 tokens 1.00 美元。其输出价格比 Inkling Small 的 1.20 美元更便宜。
关键要点
- 594B MoE,17B 激活,1M 上下文,文本加图像输入。
- AA Intelligence Index 得分为 31,高于 Inkling Small 的 13。
- 在 PerceptionBench、JobBench 和 EnterpriseBench-CoreCraft 上得分最高。
- 在 Terminal-Bench 4.0 上表现较弱(13.1%),每项任务速度慢且冗长。
- 现已在 Tinker 上线;计划在安全测试后发布 Apache 2.0 权重。
查看技术文章、模型卡和 Tinker 文档。另外,欢迎在 Twitter 上关注我们,别忘了加入我们的 150k+ ML SubReddit 并订阅我们的 Newsletter。等等!你在 Telegram 上吗?现在你也可以在 Telegram 上加入我们了。
需要与我们合作推广你的 GitHub Repo、Hugging Face 页面、产品发布或网络研讨会等?联系我们
文章 Thinking Machines Releases Inkling 2 Small, a 594B MoE With 17B Active 首次发表于 MarkTechPost。
来源:MarkTechPost · marktechpost.com