跳到正文
月之暗面 Kimi 模型发布·· 3 天前精选AI 评分88

月之暗面发布开源权重模型 Kimi K3.1 Pro

moonshotai/Kimi-K3.1-Pro

AI 导读

月之暗面发布 Kimi K3.1 Pro,这是 K3.1 系列首个开源权重模型,原生多模态,总参数 2.8T、激活参数 104B,上下文窗口 100 万 token。

推荐理由

月之暗面公开 K3.1 Pro 的架构参数与多基准对比,可据此判断开源权重模型在智能体任务上的位置。

正文 · AI 翻译

Kimi K3.1 Pro

📰  技术博客 |     🚀  API 快速入门

1. 模型简介

Kimi K3.1 Pro 是一个开放权重的原生多模态智能体模型,也是我们迄今为止能力最强的 3T 级模型。它基于 Kimi K3 进行后训练,在数百个下游领域开展了大规模联合强化学习,是 K3.1 系列的首个模型。凭借 100 万 token 的上下文窗口,Kimi K3.1 Pro 在编程、3D 创作、金融研究、事实准确性以及其他智能体能力方面均有显著提升。

2. 模型概要

架构 混合专家(MoE)
总参数量 2.8T
激活参数量 104B
层数 93
稠密层数 1
注意力层构成 69 KDA + 24 Gated DSA*
注意力隐藏维度 7168
注意力头数 96
DSA 索引头维度 128
DSA 索引头数 32
DSA 索引 Top-K 2048
潜在 MoE 维度 3584
MoE 隐藏维度(每个专家) 3072
专家数量 896
每个 token 选中的专家数 16
共享专家数量 2
词表大小 160K
上下文长度 1048576
注意力机制 KDA & Gated DSA
激活函数 SiTU-GLU
视觉编码器 MoonViT-V2
视觉编码器参数量 401M
量化 MXFP4 权重 / MXFP8 激活
(量化感知训练)
模态 文本、图像

* 与 Kimi K3 相比,我们将全注意力的 Gated MLA 层替换为 Gated DeepSeek 稀疏注意力(Gated DSA)层,以实现更高效的长上下文建模。

3. 评测结果

除非另有说明,所有 Kimi K3.1 Pro 结果均使用推理强度 max、temperature = 1.0 和 top-p = 0.95。短横线(—)表示源表中未报告分数。除基准名称明确标注 lower is better 外,分数越高越好;Elo 分数及其他基准特定指标无法与准确率或通过率分数直接比较。

基准 Kimi K3.1 Pro
(max)
Claude Fable 5.1
(max, w/ fallback)
GPT-6 Astra
(max, w/ fallback)
Claude Opus 5.5
(max, w/ fallback)
DeepSeek-V4.1-Flash-1017
(max)
GLM-5.3
(max)
编程
Terminal-Bench 4.0 65.7 57.9 58.2 66.4 42.3 41.8
Terminal-Bench-Science 0.1 38.1 40.0 68.1 63.3 15.7 8.1
SWE Marathon v1.1 51.7 45.6 42.5 46.3 40.0 42.5
BenchCAD w/o tools 72.8 60.6 — 73.0 41.2 —
BenchCAD w/ tools 92.7 92.6 95.9 96.2 81.6 —
Program Bench 31.5 53.5 50.0 65.0 29.1 19.0
DeepSWE v1.1 75.5 67.4 74.1 74.2 77.0 66.9
PostTrain Bench v1.2 36.5 44.6 41.9 43.8 30.5 34.5
Kimi Code Bench 2.0(内部) 77.1 — — — 76.1 61.7
Kimi Code Bench 3.0 Long-horizon(内部) 61.2 58.8 66.5 58.5 51.5 45.5
智能体
HLE-Full w/ tools 70.0 65.6 57.2 67.7 58.8 62.5
BrowseComp 92.1 — 91.5 90.8 — —
BioMysteryBench 80.6 81.6 78.9 81.9 80.0 79.6
CharXiv (RQ) w/ python 93.4 92.7 92.8 93.8 85.6 —
MMMU-Pro w/ python 90.0 88.4 87.8 89.8 82.5 —
GDP.pdf w/ python 85.7 83.8 85.5 83.9 73.0 —
ChartoGraphy w/ python 90.2 88.4 91.0 89.0 83.0 —
BabyVision w/ python 95.4 95.1 96.6 97.7 92.5 —
ZeroBench_main w/ python (pass@5) 63.0 59.0 58.0 61.0 51.0 —
Agents' Last Exam (ALL) 43.2 — 41.8 42.6 37.7 26.2
Agents' Last Exam (CLI) 44.2 — 44.2 40.7 36.0 29.4
Automation Bench-AA 73.3 59.4 68.5 69.5 66.6 62.2
GDPval-AA v2.1(Elo 分数) 1846 1754 1573 1866 1746 1650
AA-Briefcase v1.1(Elo 分数) 1678 1672 1569 1803 1570 1507
APEX-Agents 69.4 68.6 64.7 73.5 69.8 56.6
OfficeQA Pro v2 64.4 54.5 54.4 62.2 40.4 31.1
OfficeQA Pro 67.4 68.6 66.2 — 62.4 58.6
Frontier Finance 58.6 60.8 45.0 56.7 54.5 57.5
Harvey Legal Agent 23.7 19.1 — — 21.0 —
HANDBOOK.md 44.6 38.8 — 41.5 28.9 20.8
OSWorld V2.1 79.6 80.7 75.8 81.8 69.3 —
Business Operation(内部) 37.8 30.7 32.3 — 8.9 18.6
DECK-Arena(内部,Elo 分数) 1456 — 1423 1253 1231 1119
Design Bench(内部,Elo 分数) 957 — 1076 927 863 718
Kimi Hallu Bench Hard w/ tools(内部,越低越好) 8.3 23.3 5.5 15.0 23.3 22.6
推理与知识及多模态
GDP.pdf 34.6 27.6 34.2 30.6 17.2 11.2
HLE-Full 51.1 57.6 53.6 59.8 42.6 43.0*
HLE-Diamond 39.4 55.1 65.8 60.9 21.6 25.1*
GPQA-Diamond 94.2 93.7 96.1 93.9 92.2 91.7
CharXiv (RQ) 89.0 88.8 90.0 92.1 77.0 —
MMMU-Pro 84.1 86.3 86.9 87.7 80.6 —
ZeroBench_main (avg@5 / pass@5) 29.8 / 39.0 23.0 / 35.0 43.2 / 52.0 35.0 / 43.0 11.8 / 23.0 —
PerceptionBench 68.3 63.0 77.6 72.1 47.7 —
Kimi Hallu Bench w/o tools(内部,越低越好) 5.4 11.4 4.2 6.8 13.1 14.8
网络安全
ExploitBench 74.7 83.0 100 91.0 — 54.4
ExploitGym 20.7 30.4 42.4 34.5 — 15.0
xdev-bench-hard(内部) 81.0 — — — 85.7 57.1

评测脚注

编程基准

  1. Terminal-Bench 4.0。Kimi K3.1 Pro 使用 Claude Code 框架进行评测。DeepSeek-V4.1-Flash-1017 的分数取自其发布博客。其余所有分数均为模型博客文章或官方 Terminal-Bench 排行榜中报告的最高值。
  2. Terminal-Bench-Science 0.1。Kimi K3.1 Pro 使用 Claude Code 进行评测。DeepSeek-V4.1-Flash-1017 的内部评测结果为 9.3;表中改为报告官方排行榜上较旧的 DeepSeek-V4.1-Flash 的 15.7。其余所有分数均来自 Terminal-Bench-Science 排行榜。
  3. SWE-Marathon v1.1。Kimi K3.1 Pro 和 DeepSeek-V4.1-Flash-1017 使用 Claude Code 进行评测。其他分数来自官方排行榜。
  4. ProgramBench。表中报告的是二值分数:若某任务的 ProgramBench 分数至少为 95%,则该任务得 1 分,否则得 0 分。K3.1 Pro 使用 Claude Code 进行评测。DeepSeek 和 GLM 的分数取自DeepSeek 发布博客;其余分数来自 Vals AI。
  5. DeepSWE v1.1。K3.1 Pro 使用 Claude Code 进行评测。其他分数来自 GPT-6 Astra、Claude Opus 5.5、Claude Fable 5.1、DeepSeek-V4.1-Flash-1017 和 GLM-5.3 各自的技术报告。
  6. PostTrainBench。K3.1 Pro 和 DeepSeek-V4.1-Flash-1017 在 v1.2 上使用 Claude Code 和 H20 GPU(而非 H100 GPU)进行内部评测。为保证评测稳定,所有评判模型均使用最大努力设置的 DeepSeek-V4.1-Flash-1017,该设置在测试中与官方 GPT-5.6-Terra (xhigh) 评判模型最为匹配。其他分数来自官方排行榜。
  7. Kimi Code Bench 2.0 和 Kimi Code Bench 3.0 Long-horizon。这些是内部基准。K3.1 Pro 使用 Claude Code 进行评测;所有其他模型均使用其最大努力设置。专有模型的测试可能涉及回退行为。
  8. BenchCAD。开放模型在从 17,900 个案例的 Vision2Code 数据集中随机抽取的 1,000 个案例子集上以最大推理努力进行评测。带工具的结果使用 Claude Code;不带工具的结果使用官方提示词和评分进行单次生成。Claude 的分数来自 Opus 5.5 System Card,GPT-6 Astra 的带工具分数来自其官方报告。GPT-6 Astra 没有报告不带工具的分数。

智能体基准

  1. BioMysteryBench。使用官方 v11 版本,以 Kimi K3 作为评判模型。K3.1 Pro 使用 Kimi Code;GLM-5.3 和 DeepSeek-V4.1-Flash-1017 使用 Claude Code;GPT-6 Astra 使用 Codex。Claude 的分数来自官方系统卡。
  2. Agents' Last Exam。使用官方 v1.1 版本,包含 122 个任务,其中 86 个为 CLI 任务。绕过既定要求的运行结果记为零分。DeepSeek 和 Kimi 分别使用 Claude Code 和 Kimi Code 进行评测;其他结果来自官方基准网站。
  3. OfficeQA Pro 与 OfficeQA Pro v2。GPT-6 Astra 使用 Codex;其他模型使用 Claude Code。每个任务以页面图像形式提供完整的 PDF 语料,不含机器可读文本。在线检索参考答案的外部模型轨迹在这些任务上得零分。
  4. Frontier Finance。使用官方 Finance Agent v2 测试框架进行评估。
  5. HANDBOOK.md。使用官方基于 OpenHands 的测试框架进行评估,任务取自该基准早期开源的 v1 版本。
  6. Harvey Legal Agent。使用 Artificial Analysis 的 Stirrup 测试框架在 1,251 个公开任务上评估。报告分数为全通过率:即通过每一条评分标准细则的任务百分比。
  7. OSWorld V2.1。Kimi 模型在官方 OSWorld v2 仓库中使用 Kimi Agent 测试框架。GPT-6 Astra 的分数取自 Muse Wonder 的技术报告。
  8. DECK-Arena 与 Design Bench。DECK-Arena 在真实世界查询上评估演示文稿生成;Design Bench 通过直接提示和参考图像少样本提示覆盖平面设计。两者均在集成搜索与图像生成的测试框架中评估 python-pptx、pptxjs 和 Kimi 自研 DSL。自动评分器基于超过 10,000 条人工判断进行校准。
  9. BrowseComp。使用在 200K token 时触发的上下文压缩,最多 500 步。若达到上限,智能体在评判前被强制作答。所有运行均使用 temperature = 1.0 和 top-p = 1.0。
  10. GDPval-AA v2.1、AA-Briefcase v1.1 与 AutomationBench-AA。分数引自 Artificial Analysis。APEX-Agents。分数引自官方排行榜。
  11. 工具增强的多模态评估。GDP.pdf w/ python、ZeroBench w/ python 和 ChartoGraphy w/ python 取五次运行的平均值;其他带 Python 的多模态基准取四次运行的平均值。对于 GDP.pdf w/ python,每个原始 PDF 被发送到沙箱进行 IPython 处理。回答使用 Gemini-3.5-Flash 在中等推理强度下并采用官方评判提示,针对每条评分标准细则进行评分。报告分数为任务宏平均评分标准通过率。

推理、知识与多模态基准

  1. GDP.pdf。每个 PDF 以页面图像形式提供,最长边缩放至 1,152 像素,并按页面顺序与 Docling 提取的文本交错排列。回答使用 Gemini-3.5-Flash Medium 和官方评判提示,针对每条评分标准细则进行评分。表中报告的是完全评分回答中的严格通过率。GLM-5.3 Max 和 DeepSeek-V4.1-Flash-1017 Max 的分数引自 Artificial Analysis。
  2. HLE-Full 与 HLE-Diamond。完整评估集分别包含 2,500 和 1,000 道题。对于标记为 * 的分数,准确率报告于纯文本子集。
  3. 运行次数。GDP.pdf、ZeroBench 和 ChartoGraphy 取五次运行的平均值;其他多模态基准取四次运行的平均值。
  4. MMMU-Pro。使用官方协议评估,保留原始输入顺序并将图像置于文本输入之前。
  5. PerceptionBench。一个专注于原子级视觉感知能力的内部基准。
  6. Kimi 幻觉基准。 在内部一组取自实际工作任务、经过脱敏处理的挑战性提示上评估事实准确性。表中报告的是由事实核查代理评估的声明级幻觉率。

网络安全基准

  1. ExploitBench。 K3.1 Pro 在 300 轮预算下使用官方测试框架进行评估。表中报告的是 pass@5 最大能力得分:对于每个环境,从五个随机种子中取最佳结果,按达到的 16 项能力标志计分;任意代码执行计为全部 16 项能力。对比得分来自 OpenAI、Anthropic 和 GLM-5.3。
  2. ExploitGym。 K3.1 Pro 使用 Kimi Code 进行评估,每个任务的挂钟时间预算为六小时。GPT-6 Astra、Claude 和 GLM 的对比得分取自各自的官方报告,其中 Claude 的结果使用相同的六小时预算。
  3. xdev-bench-hard。 K3.1 Pro 使用 Kimi Code 进行评估;GLM-5.3 和 DeepSeek-V4.1-Flash-1017 使用 Claude Code。该内部基准包含由专家策划、基于源代码的漏洞发现与利用任务。最终模型在随机抽取的部分运行上以 pass@3 进行评估,不设硬性超时或输出 token 限制。

4. 部署与可用性

你可以通过选择 kimi-k3.1-pro 在 https://platform.kimi.ai 上访问 Kimi K3.1 Pro 的 API,我们还为你提供兼容 OpenAI/Anthropic 的 API。 目前,建议在以下推理引擎上运行 Kimi K3.1 Pro:


5. 模型使用

Kimi K3.1 Pro 的思考强度通过顶层 reasoning_effort 请求字段配置,该字段支持 "low"、"high" 和 "max"(默认 "max")。

对于多轮对话和工具调用,Kimi K3.1 Pro 要求将 API 返回的完整 assistant 消息原样传回 messages——包括 reasoning_content 和 tool_calls,而不仅仅是 content:

import openai

def chat_with_preserved_thinking(client: openai.OpenAI, model_name: str):
    messages = [
        {
            "role": "user",
            "content": "Tell me three random numbers."
        },
        {
            "role": "assistant",
            "reasoning_content": "I'll start by listing five numbers: 473, 921, 235, 215, 222, and I'll tell you the first three.",
            "content": "473, 921, 235"
        },
        {
            "role": "user",
            "content": "What are the other two numbers you have in mind?"
        }
    ]

    response = client.chat.completions.create(
        model=model_name,
        messages=messages,
        stream=False,
        max_tokens=4096,
        reasoning_effort="max",
    )
    # the assistant should mention 215 and 222 that appear in the prior reasoning content
    print(f"response: {response.choices[0].message.reasoning}")
    return response.choices[0].message.content

完整指南和示例(视觉输入、结构化输出、部分模式、工具选择、动态工具加载、上下文缓存),请参见 Kimi K3.1 Pro 快速入门 和 思考强度。

6. 许可证

Kimi K3.1 Pro 依据 Kimi K3.1 Pro 许可证 发布。

7. 联系我们

如有任何问题,请通过 support@moonshot.ai 联系我们。

上个月下载量
797

Safetensors

moonshotai/Kimi-K3.1-Pro 的模型树

来源:月之暗面 Kimi 模型发布 · hf-mirror.com