DeepSeek开源推理框架DeepInfer
热点事件持续更新
DeepSeek开源推理框架DeepInfer
3 篇报道3 个报道来源14 小时前更新
先了解这件事
AI 综述
DeepSeek 将其自研推理框架 DeepInfer 完全开源,代码已发布在 GitHub,采用 Apache License 2.0 许可。该框架用于支撑 DeepSeek-V4.1-Flash 的大规模服务,主打高吞吐与低延迟;DeepSeek 称分享生产栈意在帮助社区降低算力成本与能耗。 DeepSeek 同时发布 deepseek-recipe,称其复现官方 API 的 token 处理流程,使自托管部署的行为与官方 API 一致。DeepSeek 还表示,未来模型的代码也将以开源形式发布。
AI 根据报道生成 · 2 小时前更新
最新进展10月21日 02:56
DeepSeek 开源推理引擎 DeepInfer,支撑 V4.1-Flash 高速低成本服务报道时间线
沿着报道,了解事件的不同侧面。
10月21日
- Latent Space精选DeepSeek 开源生产推理栈 DeepInfer,披露单集群 155T tokens/天与单卡每小时 38 美元收入
DeepSeek 开源了支撑 V4.1 Flash 的生产推理栈 DeepInfer,并公布单集群每天处理 155 万亿 tokens、96% 输入缓存命中、单卡每小时 38 美元收入等生产数据。
- The DecoderDeepSeek 开源推理引擎 DeepInfer,支撑 V4.1-Flash 高速低成本服务
DeepSeek 以 Apache License 2.0 开源内部推理框架 DeepInfer,该框架是支撑 V4.1-Flash 模型大规模快速出答案的服务软件。
10月20日
- DeepSeek (X)精选DeepSeek 开源推理框架 DeepInfer
DeepSeek 宣布将自研推理框架 DeepInfer 完全开源,代码已发布在 GitHub。该框架用于支撑 DeepSeek-V4.1-Flash 的大规模服务,主打高吞吐与低延迟,DeepSeek 称分享生产栈意在帮助社区降低算力成本与能耗。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。