月之暗面发布开源权重模型 Kimi K3.1 Pro
moonshotai/Kimi-K3.1-Pro
月之暗面发布 Kimi K3.1 Pro,这是 K3.1 系列首个开源权重模型,原生多模态,总参数 2.8T、激活参数 104B,上下文窗口 100 万 token。
月之暗面公开 K3.1 Pro 的架构参数与多基准对比,可据此判断开源权重模型在智能体任务上的位置。
1. 模型简介
Kimi K3.1 Pro 是一个开放权重的原生多模态智能体模型,也是我们迄今为止能力最强的 3T 级模型。它基于 Kimi K3 进行后训练,在数百个下游领域开展了大规模联合强化学习,是 K3.1 系列的首个模型。凭借 100 万 token 的上下文窗口,Kimi K3.1 Pro 在编程、3D 创作、金融研究、事实准确性以及其他智能体能力方面均有显著提升。
2. 模型概要
| 架构 | 混合专家(MoE) |
| 总参数量 | 2.8T |
| 激活参数量 | 104B |
| 层数 | 93 |
| 稠密层数 | 1 |
| 注意力层构成 | 69 KDA + 24 Gated DSA* |
| 注意力隐藏维度 | 7168 |
| 注意力头数 | 96 |
| DSA 索引头维度 | 128 |
| DSA 索引头数 | 32 |
| DSA 索引 Top-K | 2048 |
| 潜在 MoE 维度 | 3584 |
| MoE 隐藏维度(每个专家) | 3072 |
| 专家数量 | 896 |
| 每个 token 选中的专家数 | 16 |
| 共享专家数量 | 2 |
| 词表大小 | 160K |
| 上下文长度 | 1048576 |
| 注意力机制 | KDA & Gated DSA |
| 激活函数 | SiTU-GLU |
| 视觉编码器 | MoonViT-V2 |
| 视觉编码器参数量 | 401M |
| 量化 | MXFP4 权重 / MXFP8 激活 (量化感知训练) |
| 模态 | 文本、图像 |
* 与 Kimi K3 相比,我们将全注意力的 Gated MLA 层替换为 Gated DeepSeek 稀疏注意力(Gated DSA)层,以实现更高效的长上下文建模。
3. 评测结果
除非另有说明,所有 Kimi K3.1 Pro 结果均使用推理强度 max、temperature = 1.0 和 top-p = 0.95。短横线(—)表示源表中未报告分数。除基准名称明确标注 lower is better 外,分数越高越好;Elo 分数及其他基准特定指标无法与准确率或通过率分数直接比较。
| 基准 | Kimi K3.1 Pro (max) |
Claude Fable 5.1 (max, w/ fallback) |
GPT-6 Astra (max, w/ fallback) |
Claude Opus 5.5 (max, w/ fallback) |
DeepSeek-V4.1-Flash-1017 (max) |
GLM-5.3 (max) |
|---|---|---|---|---|---|---|
| 编程 | ||||||
| Terminal-Bench 4.0 | 65.7 | 57.9 | 58.2 | 66.4 | 42.3 | 41.8 |
| Terminal-Bench-Science 0.1 | 38.1 | 40.0 | 68.1 | 63.3 | 15.7 | 8.1 |
| SWE Marathon v1.1 | 51.7 | 45.6 | 42.5 | 46.3 | 40.0 | 42.5 |
| BenchCAD w/o tools | 72.8 | 60.6 | — | 73.0 | 41.2 | — |
| BenchCAD w/ tools | 92.7 | 92.6 | 95.9 | 96.2 | 81.6 | — |
| Program Bench | 31.5 | 53.5 | 50.0 | 65.0 | 29.1 | 19.0 |
| DeepSWE v1.1 | 75.5 | 67.4 | 74.1 | 74.2 | 77.0 | 66.9 |
| PostTrain Bench v1.2 | 36.5 | 44.6 | 41.9 | 43.8 | 30.5 | 34.5 |
| Kimi Code Bench 2.0(内部) | 77.1 | — | — | — | 76.1 | 61.7 |
| Kimi Code Bench 3.0 Long-horizon(内部) | 61.2 | 58.8 | 66.5 | 58.5 | 51.5 | 45.5 |
| 智能体 | ||||||
| HLE-Full w/ tools | 70.0 | 65.6 | 57.2 | 67.7 | 58.8 | 62.5 |
| BrowseComp | 92.1 | — | 91.5 | 90.8 | — | — |
| BioMysteryBench | 80.6 | 81.6 | 78.9 | 81.9 | 80.0 | 79.6 |
| CharXiv (RQ) w/ python | 93.4 | 92.7 | 92.8 | 93.8 | 85.6 | — |
| MMMU-Pro w/ python | 90.0 | 88.4 | 87.8 | 89.8 | 82.5 | — |
| GDP.pdf w/ python | 85.7 | 83.8 | 85.5 | 83.9 | 73.0 | — |
| ChartoGraphy w/ python | 90.2 | 88.4 | 91.0 | 89.0 | 83.0 | — |
| BabyVision w/ python | 95.4 | 95.1 | 96.6 | 97.7 | 92.5 | — |
| ZeroBench_main w/ python (pass@5) | 63.0 | 59.0 | 58.0 | 61.0 | 51.0 | — |
| Agents' Last Exam (ALL) | 43.2 | — | 41.8 | 42.6 | 37.7 | 26.2 |
| Agents' Last Exam (CLI) | 44.2 | — | 44.2 | 40.7 | 36.0 | 29.4 |
| Automation Bench-AA | 73.3 | 59.4 | 68.5 | 69.5 | 66.6 | 62.2 |
| GDPval-AA v2.1(Elo 分数) | 1846 | 1754 | 1573 | 1866 | 1746 | 1650 |
| AA-Briefcase v1.1(Elo 分数) | 1678 | 1672 | 1569 | 1803 | 1570 | 1507 |
| APEX-Agents | 69.4 | 68.6 | 64.7 | 73.5 | 69.8 | 56.6 |
| OfficeQA Pro v2 | 64.4 | 54.5 | 54.4 | 62.2 | 40.4 | 31.1 |
| OfficeQA Pro | 67.4 | 68.6 | 66.2 | — | 62.4 | 58.6 |
| Frontier Finance | 58.6 | 60.8 | 45.0 | 56.7 | 54.5 | 57.5 |
| Harvey Legal Agent | 23.7 | 19.1 | — | — | 21.0 | — |
| HANDBOOK.md | 44.6 | 38.8 | — | 41.5 | 28.9 | 20.8 |
| OSWorld V2.1 | 79.6 | 80.7 | 75.8 | 81.8 | 69.3 | — |
| Business Operation(内部) | 37.8 | 30.7 | 32.3 | — | 8.9 | 18.6 |
| DECK-Arena(内部,Elo 分数) | 1456 | — | 1423 | 1253 | 1231 | 1119 |
| Design Bench(内部,Elo 分数) | 957 | — | 1076 | 927 | 863 | 718 |
| Kimi Hallu Bench Hard w/ tools(内部,越低越好) | 8.3 | 23.3 | 5.5 | 15.0 | 23.3 | 22.6 |
| 推理与知识及多模态 | ||||||
| GDP.pdf | 34.6 | 27.6 | 34.2 | 30.6 | 17.2 | 11.2 |
| HLE-Full | 51.1 | 57.6 | 53.6 | 59.8 | 42.6 | 43.0* |
| HLE-Diamond | 39.4 | 55.1 | 65.8 | 60.9 | 21.6 | 25.1* |
| GPQA-Diamond | 94.2 | 93.7 | 96.1 | 93.9 | 92.2 | 91.7 |
| CharXiv (RQ) | 89.0 | 88.8 | 90.0 | 92.1 | 77.0 | — |
| MMMU-Pro | 84.1 | 86.3 | 86.9 | 87.7 | 80.6 | — |
| ZeroBench_main (avg@5 / pass@5) | 29.8 / 39.0 | 23.0 / 35.0 | 43.2 / 52.0 | 35.0 / 43.0 | 11.8 / 23.0 | — |
| PerceptionBench | 68.3 | 63.0 | 77.6 | 72.1 | 47.7 | — |
| Kimi Hallu Bench w/o tools(内部,越低越好) | 5.4 | 11.4 | 4.2 | 6.8 | 13.1 | 14.8 |
| 网络安全 | ||||||
| ExploitBench | 74.7 | 83.0 | 100 | 91.0 | — | 54.4 |
| ExploitGym | 20.7 | 30.4 | 42.4 | 34.5 | — | 15.0 |
| xdev-bench-hard(内部) | 81.0 | — | — | — | 85.7 | 57.1 |
评测脚注
编程基准
- Terminal-Bench 4.0。Kimi K3.1 Pro 使用 Claude Code 框架进行评测。DeepSeek-V4.1-Flash-1017 的分数取自其发布博客。其余所有分数均为模型博客文章或官方 Terminal-Bench 排行榜中报告的最高值。
- Terminal-Bench-Science 0.1。Kimi K3.1 Pro 使用 Claude Code 进行评测。DeepSeek-V4.1-Flash-1017 的内部评测结果为 9.3;表中改为报告官方排行榜上较旧的 DeepSeek-V4.1-Flash 的 15.7。其余所有分数均来自 Terminal-Bench-Science 排行榜。
- SWE-Marathon v1.1。Kimi K3.1 Pro 和 DeepSeek-V4.1-Flash-1017 使用 Claude Code 进行评测。其他分数来自官方排行榜。
- ProgramBench。表中报告的是二值分数:若某任务的 ProgramBench 分数至少为 95%,则该任务得 1 分,否则得 0 分。K3.1 Pro 使用 Claude Code 进行评测。DeepSeek 和 GLM 的分数取自DeepSeek 发布博客;其余分数来自 Vals AI。
- DeepSWE v1.1。K3.1 Pro 使用 Claude Code 进行评测。其他分数来自 GPT-6 Astra、Claude Opus 5.5、Claude Fable 5.1、DeepSeek-V4.1-Flash-1017 和 GLM-5.3 各自的技术报告。
- PostTrainBench。K3.1 Pro 和 DeepSeek-V4.1-Flash-1017 在 v1.2 上使用 Claude Code 和 H20 GPU(而非 H100 GPU)进行内部评测。为保证评测稳定,所有评判模型均使用最大努力设置的 DeepSeek-V4.1-Flash-1017,该设置在测试中与官方 GPT-5.6-Terra (xhigh) 评判模型最为匹配。其他分数来自官方排行榜。
- Kimi Code Bench 2.0 和 Kimi Code Bench 3.0 Long-horizon。这些是内部基准。K3.1 Pro 使用 Claude Code 进行评测;所有其他模型均使用其最大努力设置。专有模型的测试可能涉及回退行为。
- BenchCAD。开放模型在从 17,900 个案例的 Vision2Code 数据集中随机抽取的 1,000 个案例子集上以最大推理努力进行评测。带工具的结果使用 Claude Code;不带工具的结果使用官方提示词和评分进行单次生成。Claude 的分数来自 Opus 5.5 System Card,GPT-6 Astra 的带工具分数来自其官方报告。GPT-6 Astra 没有报告不带工具的分数。
智能体基准
- BioMysteryBench。使用官方 v11 版本,以 Kimi K3 作为评判模型。K3.1 Pro 使用 Kimi Code;GLM-5.3 和 DeepSeek-V4.1-Flash-1017 使用 Claude Code;GPT-6 Astra 使用 Codex。Claude 的分数来自官方系统卡。
- Agents' Last Exam。使用官方 v1.1 版本,包含 122 个任务,其中 86 个为 CLI 任务。绕过既定要求的运行结果记为零分。DeepSeek 和 Kimi 分别使用 Claude Code 和 Kimi Code 进行评测;其他结果来自官方基准网站。
- OfficeQA Pro 与 OfficeQA Pro v2。GPT-6 Astra 使用 Codex;其他模型使用 Claude Code。每个任务以页面图像形式提供完整的 PDF 语料,不含机器可读文本。在线检索参考答案的外部模型轨迹在这些任务上得零分。
- Frontier Finance。使用官方 Finance Agent v2 测试框架进行评估。
- HANDBOOK.md。使用官方基于 OpenHands 的测试框架进行评估,任务取自该基准早期开源的 v1 版本。
- Harvey Legal Agent。使用 Artificial Analysis 的 Stirrup 测试框架在 1,251 个公开任务上评估。报告分数为全通过率:即通过每一条评分标准细则的任务百分比。
- OSWorld V2.1。Kimi 模型在官方 OSWorld v2 仓库中使用 Kimi Agent 测试框架。GPT-6 Astra 的分数取自 Muse Wonder 的技术报告。
- DECK-Arena 与 Design Bench。DECK-Arena 在真实世界查询上评估演示文稿生成;Design Bench 通过直接提示和参考图像少样本提示覆盖平面设计。两者均在集成搜索与图像生成的测试框架中评估 python-pptx、pptxjs 和 Kimi 自研 DSL。自动评分器基于超过 10,000 条人工判断进行校准。
- BrowseComp。使用在 200K token 时触发的上下文压缩,最多 500 步。若达到上限,智能体在评判前被强制作答。所有运行均使用
temperature = 1.0和top-p = 1.0。 - GDPval-AA v2.1、AA-Briefcase v1.1 与 AutomationBench-AA。分数引自 Artificial Analysis。APEX-Agents。分数引自官方排行榜。
- 工具增强的多模态评估。GDP.pdf w/ python、ZeroBench w/ python 和 ChartoGraphy w/ python 取五次运行的平均值;其他带 Python 的多模态基准取四次运行的平均值。对于 GDP.pdf w/ python,每个原始 PDF 被发送到沙箱进行 IPython 处理。回答使用 Gemini-3.5-Flash 在中等推理强度下并采用官方评判提示,针对每条评分标准细则进行评分。报告分数为任务宏平均评分标准通过率。
推理、知识与多模态基准
- GDP.pdf。每个 PDF 以页面图像形式提供,最长边缩放至 1,152 像素,并按页面顺序与 Docling 提取的文本交错排列。回答使用 Gemini-3.5-Flash Medium 和官方评判提示,针对每条评分标准细则进行评分。表中报告的是完全评分回答中的严格通过率。GLM-5.3 Max 和 DeepSeek-V4.1-Flash-1017 Max 的分数引自 Artificial Analysis。
- HLE-Full 与 HLE-Diamond。完整评估集分别包含 2,500 和 1,000 道题。对于标记为
*的分数,准确率报告于纯文本子集。 - 运行次数。GDP.pdf、ZeroBench 和 ChartoGraphy 取五次运行的平均值;其他多模态基准取四次运行的平均值。
- MMMU-Pro。使用官方协议评估,保留原始输入顺序并将图像置于文本输入之前。
- PerceptionBench。一个专注于原子级视觉感知能力的内部基准。
- Kimi 幻觉基准。 在内部一组取自实际工作任务、经过脱敏处理的挑战性提示上评估事实准确性。表中报告的是由事实核查代理评估的声明级幻觉率。
网络安全基准
- ExploitBench。 K3.1 Pro 在 300 轮预算下使用官方测试框架进行评估。表中报告的是 pass@5 最大能力得分:对于每个环境,从五个随机种子中取最佳结果,按达到的 16 项能力标志计分;任意代码执行计为全部 16 项能力。对比得分来自 OpenAI、Anthropic 和 GLM-5.3。
- ExploitGym。 K3.1 Pro 使用 Kimi Code 进行评估,每个任务的挂钟时间预算为六小时。GPT-6 Astra、Claude 和 GLM 的对比得分取自各自的官方报告,其中 Claude 的结果使用相同的六小时预算。
- xdev-bench-hard。 K3.1 Pro 使用 Kimi Code 进行评估;GLM-5.3 和 DeepSeek-V4.1-Flash-1017 使用 Claude Code。该内部基准包含由专家策划、基于源代码的漏洞发现与利用任务。最终模型在随机抽取的部分运行上以 pass@3 进行评估,不设硬性超时或输出 token 限制。
4. 部署与可用性
你可以通过选择
kimi-k3.1-pro在 https://platform.kimi.ai 上访问 Kimi K3.1 Pro 的 API,我们还为你提供兼容 OpenAI/Anthropic 的 API。 目前,建议在以下推理引擎上运行 Kimi K3.1 Pro:
5. 模型使用
Kimi K3.1 Pro 的思考强度通过顶层 reasoning_effort 请求字段配置,该字段支持 "low"、"high" 和 "max"(默认 "max")。
对于多轮对话和工具调用,Kimi K3.1 Pro 要求将 API 返回的完整 assistant 消息原样传回 messages——包括 reasoning_content 和 tool_calls,而不仅仅是 content:
import openai
def chat_with_preserved_thinking(client: openai.OpenAI, model_name: str):
messages = [
{
"role": "user",
"content": "Tell me three random numbers."
},
{
"role": "assistant",
"reasoning_content": "I'll start by listing five numbers: 473, 921, 235, 215, 222, and I'll tell you the first three.",
"content": "473, 921, 235"
},
{
"role": "user",
"content": "What are the other two numbers you have in mind?"
}
]
response = client.chat.completions.create(
model=model_name,
messages=messages,
stream=False,
max_tokens=4096,
reasoning_effort="max",
)
# the assistant should mention 215 and 222 that appear in the prior reasoning content
print(f"response: {response.choices[0].message.reasoning}")
return response.choices[0].message.content
完整指南和示例(视觉输入、结构化输出、部分模式、工具选择、动态工具加载、上下文缓存),请参见 Kimi K3.1 Pro 快速入门 和 思考强度。
6. 许可证
Kimi K3.1 Pro 依据 Kimi K3.1 Pro 许可证 发布。
7. 联系我们
如有任何问题,请通过 support@moonshot.ai 联系我们。
- 上个月下载量
- 797
Safetensors
moonshotai/Kimi-K3.1-Pro 的模型树
来源:月之暗面 Kimi 模型发布 · hf-mirror.com