Xiaomi MiMo@XiaomiMiMo精选AI 评分7878小米 MiMo 与 TileRT 合作发布 MiMo-V2.5-Pro-UltraSpeed，在 1 万亿参数 MoE 模型上实现 1000 tokens/s 以上的输出速度。
推荐理由：官方给出 1T MoE 模型在单台标准 8-GPGPU 节点上突破 1000 tokens/s 的部署路径，可与 Cerebras、Groq 方案对照。
技术方向
部署工程 最新动态
怎么把模型跑得更快更省钱：推理加速、显存与成本、服务部署与基础设施选型。
103 条精选近 30 天 87 条共收录 832 条
更新
精选归档 · 第 6 页
- Xiaomi MiMo@XiaomiMiMo精选AI 评分7878
阶跃星辰模型发布精选AI 评分6060 阶跃星辰发布 Step-3.7-Flash GGUF 量化版本
阶跃星辰为 198B 参数稀疏 MoE 视觉语言模型 Step-3.7-Flash 发布 GGUF 量化版本，含 BF16 到 IQ3_XXS 共 7 个语言量化档位及 4 GB 的 F16 视觉投影器。
推荐理由：原文给出各量化档位的体积与三款 128 GB 统一内存设备上的实测吞吐，可据此判断本地私有部署的可行边界。
- Xiaomi MiMo@XiaomiMiMo精选AI 评分7272
推荐理由：官方给出各档位具体降幅与统一计价方式，可据此估算接入 MiMo-V2.5 后的调用成本变化。