跳到正文

技术方向

部署工程 最新动态

怎么把模型跑得更快更省钱:推理加速、显存与成本、服务部署与基础设施选型。

23 条精选近 30 天 19 条共收录 187 条

更新

精选归档 · 第 2 页

8月14日周五第 21–23 条
  1. DeepSeek 模型发布88

    DeepSeek 发布正式版 DeepSeek-V4-Pro-0813 模型

    DeepSeek 发布 DeepSeek-V4-Pro-0813 正式版,取代此前的预览版本,官方称其智能体能力大幅增强,在生产环境中提升尤为明显。该模型沿用 DeepSeek-V4-Pro (Preview) 的结构,并附加 DSpark 投机解码模块,在 HLE、Terminal Bench 2.1、NL2Repo、DeepSWE 等基准上均高于预览版。

    推荐理由:官方技术报告列出正式版与预览版在多项智能体基准上的对比,可据此判断其生产环境能力变化。

8月1日周六
  1. DeepSeek 模型发布88

    DeepSeek 发布 DeepSeek-V4-Flash-0731 正式版

    DeepSeek 发布 DeepSeek-V4-Flash-0731 正式版,取代此前的预览版本,智能体能力大幅增强。该模型与 DeepSeek-V4-Flash-DSpark 结构相同,附带投机解码模块,在 Terminal Bench 2.1、NL2Repo、DeepSWE 等基准上超过 DeepSeek-V4-Pro (Preview),激活参数量则小得多。

    推荐理由:官方技术报告列出多项基准对比,读者可据此判断小激活参数模型在智能体任务上的位置。

6月3日周三
  1. 阶跃星辰模型发布60

    阶跃星辰发布 Step-3.7-Flash GGUF 量化版本

    阶跃星辰为 198B 参数稀疏 MoE 视觉语言模型 Step-3.7-Flash 发布 GGUF 量化版本,含 BF16 到 IQ3_XXS 共 7 个语言量化档位及 4 GB 的 F16 视觉投影器。

    推荐理由:原文给出各量化档位的体积与三款 128 GB 统一内存设备上的实测吞吐,可据此判断本地私有部署的可行边界。