DeepSeek 开源生产推理栈 DeepInfer,披露单集群 155T tokens/天与单卡每小时 38 美元收入
DeepSeek 开源了支撑 V4.1 Flash 的生产推理栈 DeepInfer,并公布单集群每天处理 155 万亿 tokens、96% 输入缓存命中、单卡每小时 38 美元收入等生产数据。
推荐理由:DeepSeek 开源生产推理栈并披露单集群吞吐与单卡收入,读者可据此对照 vLLM 复现结果判断其可迁移性。
DeepSeek 开源了支撑 V4.1 Flash 的生产推理栈 DeepInfer,并公布单集群每天处理 155 万亿 tokens、96% 输入缓存命中、单卡每小时 38 美元收入等生产数据。
推荐理由:DeepSeek 开源生产推理栈并披露单集群吞吐与单卡收入,读者可据此对照 vLLM 复现结果判断其可迁移性。
钛媒体作者分析DeepSeek于10月20日开源的推理框架DeepInfer,华为昇腾950系列NPU与英伟达SM100同时进入支持名单,来自同一代码树,仅通过一个环境变量即可在两类硬件间切换。
推荐理由:从推理框架对等支持两类芯片切入,梳理国产芯片在推理时代角色变化的依据与尚未验证之处。
DeepSeek 发布的开源推理包把华为昇腾处理器与 Nvidia 当前数据中心 GPU 列为同一支持层级的构建目标,同一项目树可同时面向两者,切换工作负载更接近改配置而非分叉技术栈。
推荐理由:官方给出 Harness 的插件化架构与 MIT 开源仓库,读者可据此判断它能否接入现有智能体工作流。
推荐理由:官方公布 V4-Flash API 公测,并给出 Agent 能力提升与 Codex 适配的配置入口。
推荐理由:DeepSeek 公开了支撑自家模型规模化服务的推理框架,读者可据此了解其生产栈的吞吐与延迟取舍。
DeepSeek 以 Apache License 2.0 开源内部推理框架 DeepInfer,该框架是支撑 V4.1-Flash 模型大规模快速出答案的服务软件。
DeepSeek Harness for desktop is now available on macOS and Windows. https://x.com/i/article/2104777189275439104
DeepSeek-V4-Pro 折扣已延长至 2026 年 5 月 31 日 15:59 UTC!
🔥DeepSeek-V4-Pro API is 75% OFF until May 5th, 2026, 15:59 (UTC Time)! Don't miss out on this massive discount. 🛠️Integration Updates: 🔹Claude Code: Set model to deepseek-v4-pro[1m] to unlock 1M context! 🔹OpenCode: Update to v1.14.24+ 🔹OpenClaw: Update to v2026.4.24+ Check the latest official API docs for full details: https://api-docs.deepseek.com/quick_start/pricing
OpenAI 模型的 API 服务新增 12 小时缓存保留选项,Codex 和 Work 登录用户缓存将永久保留。该选项对 GPT-5.6 及以上版本模型生效,默认保留 30 分钟;选择 12 小时后缓存写入价格从 1.25 倍升至 2.5 倍,缓存读取价格不变。官方文档指出 12 小时规定的是缓存读取计费资格对应的最短生命周期,不保证每次请求复用已存储的 KV 张量,也不保证降低延迟。
腾讯10月20日升级元宝搜索,通过腾讯云向个人开发者和企业提供Skill、MCP、API三种接入方式,每月2000次限时免费额度,10月、11月凭邀请码最高每月6000次。智东西实测连续调用5次,API单次耗时345—485毫秒,平均约0.42秒。腾讯披露元宝搜索日均调用量已达数亿次,支撑WorkBuddy、ima等50多个核心业务,并构建千亿级索引、覆盖13个垂直行业、接入157个权威信源。
腾讯元宝搜索于 10 月 20 日全面升级,并通过腾讯云以 API 形式向个人开发者与企业开放,此前它已在腾讯内部支撑 50 余款产品、日均调用量达数亿次。官方提供直接 API、MCP 和 SkillHub 三种接入方式,开通后每月有 2000 次免费额度,并支持 Freshness、Industry、Site 等检索参数。
ManageEngine卓豪10月20日面向中国市场推出30余款Zia智雅智能体,由自研Zia智雅大模型驱动,不产生额外Token成本,计划到2026年底扩展至100余款。