月之暗面发布 Kimi K2 Instruct 模型
月之暗面发布 Kimi K2,这是一个总参数 1T、激活参数 32B 的 MoE 语言模型,在 15.5T token 上预训练,采用 Muon 优化器,并针对工具调用与自主问题求解做了优化。
推荐理由:原文给出 1T 总参数、32B 激活的 MoE 架构与完整评测对照,可据此判断开源模型在编码和工具调用上的位置。
公司与模型
月之暗面的 Kimi 产品更新、K 系列开源模型与长文本技术进展。
21 条精选近 30 天 13 条共收录 90 条
月之暗面发布 Kimi K2,这是一个总参数 1T、激活参数 32B 的 MoE 语言模型,在 15.5T token 上预训练,采用 Muon 优化器,并针对工具调用与自主问题求解做了优化。
推荐理由:原文给出 1T 总参数、32B 激活的 MoE 架构与完整评测对照,可据此判断开源模型在编码和工具调用上的位置。