阶跃星辰发布 Step-3.7-Flash GGUF 量化版本
阶跃星辰为 198B 参数稀疏 MoE 视觉语言模型 Step-3.7-Flash 发布 GGUF 量化版本,含 BF16 到 IQ3_XXS 共 7 个语言量化档位及 4 GB 的 F16 视觉投影器。
推荐理由:原文给出各量化档位的体积与三款 128 GB 统一内存设备上的实测吞吐,可据此判断本地私有部署的可行边界。
技术方向
文字之外的能力:看懂图片、图文混合理解、音视频输入输出的模型与产品进展。
84 条精选近 30 天 58 条共收录 345 条
阶跃星辰为 198B 参数稀疏 MoE 视觉语言模型 Step-3.7-Flash 发布 GGUF 量化版本,含 BF16 到 IQ3_XXS 共 7 个语言量化档位及 4 GB 的 F16 视觉投影器。
推荐理由:原文给出各量化档位的体积与三款 128 GB 统一内存设备上的实测吞吐,可据此判断本地私有部署的可行边界。
阶跃星辰发布 Step 3.7 Flash,这是一个 198B 参数的稀疏 MoE 视觉语言模型,由 196B 参数语言主干与 1.8B 参数视觉编码器组成,每 token 约激活 11B 参数,吞吐最高 400 tokens/s,支持 256k 上下文窗口和低中高三档推理等级。
推荐理由:原文给出稀疏 MoE 视觉语言模型的参数规模、三档推理等级与定价,可据此判断高频智能体工作流的成本与部署选择。
月之暗面发布开源原生多模态智能体模型 Kimi K2.6,采用 MoE 架构,总参数 1T、激活参数 32B,上下文长度 256K,视觉编码器为 400M 参数的 MoonViT。
推荐理由:模型卡给出完整架构、评测对比和部署方式,可据此判断开源多模态智能体模型的当前水平。
月之暗面发布开源原生多模态智能体模型 Kimi K2.5,在 Kimi-K2-Base 上以约 15 万亿视觉与文本混合 token 持续预训练而成。模型采用 MoE 架构,总参数 1T、激活参数 32B,上下文长度 256K,配备 400M 参数的 MoonViT 视觉编码器,支持即时与思考两种模式。
推荐理由:月之暗面开源原生多模态智能体模型,1T 总参数与 Agent Swarm 设计给出了与闭源旗舰对比的完整基准。