月之暗面发布 Kimi K2 Instruct 模型
月之暗面发布 Kimi K2,这是一个总参数 1T、激活参数 32B 的 MoE 语言模型,在 15.5T token 上预训练,采用 Muon 优化器,并针对工具调用与自主问题求解做了优化。
推荐理由:原文给出 1T 总参数、32B 激活的 MoE 架构与完整评测对照,可据此判断开源模型在编码和工具调用上的位置。
技术方向
让大模型先想再答的能力:思维链、推理模型,数学与逻辑评测上的突破和争议。
62 条精选近 30 天 42 条共收录 203 条
月之暗面发布 Kimi K2,这是一个总参数 1T、激活参数 32B 的 MoE 语言模型,在 15.5T token 上预训练,采用 Muon 优化器,并针对工具调用与自主问题求解做了优化。
推荐理由:原文给出 1T 总参数、32B 激活的 MoE 架构与完整评测对照,可据此判断开源模型在编码和工具调用上的位置。
推荐理由:官方给出两个版本的定位差异与开放渠道,可据此判断面向智能体的推理模型如何分层落地。