跳到正文
热点事件持续更新

DeepSeek开源推理框架DeepInfer

3 篇报道3 个报道来源14 小时前更新

先了解这件事

AI 综述

DeepSeek 将其自研推理框架 DeepInfer 完全开源,代码已发布在 GitHub,采用 Apache License 2.0 许可。该框架用于支撑 DeepSeek-V4.1-Flash 的大规模服务,主打高吞吐与低延迟;DeepSeek 称分享生产栈意在帮助社区降低算力成本与能耗。 DeepSeek 同时发布 deepseek-recipe,称其复现官方 API 的 token 处理流程,使自托管部署的行为与官方 API 一致。DeepSeek 还表示,未来模型的代码也将以开源形式发布。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月21日
  1. Latent Space精选
    DeepSeek 开源生产推理栈 DeepInfer,披露单集群 155T tokens/天与单卡每小时 38 美元收入

    DeepSeek 开源了支撑 V4.1 Flash 的生产推理栈 DeepInfer,并公布单集群每天处理 155 万亿 tokens、96% 输入缓存命中、单卡每小时 38 美元收入等生产数据。

  2. The Decoder
    DeepSeek 开源推理引擎 DeepInfer,支撑 V4.1-Flash 高速低成本服务

    DeepSeek 以 Apache License 2.0 开源内部推理框架 DeepInfer,该框架是支撑 V4.1-Flash 模型大规模快速出答案的服务软件。

10月20日
  1. DeepSeek (X)精选
    DeepSeek 开源推理框架 DeepInfer

    DeepSeek 宣布将自研推理框架 DeepInfer 完全开源,代码已发布在 GitHub。该框架用于支撑 DeepSeek-V4.1-Flash 的大规模服务,主打高吞吐与低延迟,DeepSeek 称分享生产栈意在帮助社区降低算力成本与能耗。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。