MiniMax 发布原生多模态模型 MiniMax-M3 及 MXFP8 量化版
MiniMax 发布原生多模态模型 MiniMax-M3,并同步提供 MXFP8 量化版本 MiniMax-M3-MXFP8。
推荐理由:原文给出 M3 的参数量、稀疏注意力带来的长上下文加速倍数与三种推理模式,便于判断其部署与调用方式。
技术方向
让大模型先想再答的能力:思维链、推理模型,数学与逻辑评测上的突破和争议。
88 条精选近 30 天 64 条共收录 342 条
MiniMax 发布原生多模态模型 MiniMax-M3,并同步提供 MXFP8 量化版本 MiniMax-M3-MXFP8。
推荐理由:原文给出 M3 的参数量、稀疏注意力带来的长上下文加速倍数与三种推理模式,便于判断其部署与调用方式。
推荐理由:官方给出编码与智能体任务的提升幅度、1M 上下文和两档推理强度,便于对照 GLM-5.1 判断升级取舍。
小米 MiMo 与 TileRT 合作发布 MiMo-V2.5-Pro-UltraSpeed,在 1 万亿参数 MoE 模型上实现 1000 tokens/s 以上的输出速度。
推荐理由:官方给出 1T MoE 模型在单台标准 8-GPGPU 节点上突破 1000 tokens/s 的部署路径,可与 Cerebras、Groq 方案对照。
阶跃星辰为 198B 参数稀疏 MoE 视觉语言模型 Step-3.7-Flash 发布 GGUF 量化版本,含 BF16 到 IQ3_XXS 共 7 个语言量化档位及 4 GB 的 F16 视觉投影器。
推荐理由:原文给出各量化档位的体积与三款 128 GB 统一内存设备上的实测吞吐,可据此判断本地私有部署的可行边界。
阶跃星辰发布 Step 3.7 Flash,这是一个 198B 参数的稀疏 MoE 视觉语言模型,由 196B 参数语言主干与 1.8B 参数视觉编码器组成,每 token 约激活 11B 参数,吞吐最高 400 tokens/s,支持 256k 上下文窗口和低中高三档推理等级。
推荐理由:原文给出稀疏 MoE 视觉语言模型的参数规模、三档推理等级与定价,可据此判断高频智能体工作流的成本与部署选择。
推荐理由:官方给出各档位具体降幅与统一计价方式,可据此估算接入 MiMo-V2.5 后的调用成本变化。
月之暗面发布 Kimi K2,这是一个总参数 1T、激活参数 32B 的 MoE 语言模型,在 15.5T token 上预训练,采用 Muon 优化器,并针对工具调用与自主问题求解做了优化。
推荐理由:原文给出 1T 总参数、32B 激活的 MoE 架构与完整评测对照,可据此判断开源模型在编码和工具调用上的位置。
推荐理由:官方给出两个版本的定位差异与开放渠道,可据此判断面向智能体的推理模型如何分层落地。