DeepSeek 开源生产推理栈 DeepInfer,披露单集群 155T tokens/天与单卡每小时 38 美元收入
DeepSeek 开源了支撑 V4.1 Flash 的生产推理栈 DeepInfer,并公布单集群每天处理 155 万亿 tokens、96% 输入缓存命中、单卡每小时 38 美元收入等生产数据。
推荐理由:DeepSeek 开源生产推理栈并披露单集群吞吐与单卡收入,读者可据此对照 vLLM 复现结果判断其可迁移性。
DeepSeek 开源了支撑 V4.1 Flash 的生产推理栈 DeepInfer,并公布单集群每天处理 155 万亿 tokens、96% 输入缓存命中、单卡每小时 38 美元收入等生产数据。
推荐理由:DeepSeek 开源生产推理栈并披露单集群吞吐与单卡收入,读者可据此对照 vLLM 复现结果判断其可迁移性。
钛媒体作者分析DeepSeek于10月20日开源的推理框架DeepInfer,华为昇腾950系列NPU与英伟达SM100同时进入支持名单,来自同一代码树,仅通过一个环境变量即可在两类硬件间切换。
推荐理由:从推理框架对等支持两类芯片切入,梳理国产芯片在推理时代角色变化的依据与尚未验证之处。
SpaceX 在 Q3 2026 财报电话会上披露,向 Anthropic、Google 等客户出租算力的 Super Intelligence 业务收入 76 亿美元,接近上季度 25.6 亿美元的 3 倍,超过 Starlink 的 52 亿美元成为最大收入来源,其中 6.08 亿美元来自新收购的 Cursor。
推荐理由:SpaceX 财报电话会显示 AI 算力业务已成其最大收入来源,读者可据此了解算力租赁的规模与资本开支节奏。
VAST 开源 Project Eden 系列中的实时生成式渲染器 EdenLive,并同步开放 5B、14B 模型权重、实时流式推理代码、EdenGolem v0.1 与前端工作台。
推荐理由:VAST 开源实时世界模型 EdenLive,读者可了解其状态与渲染分工架构及 5B 模型在单卡上的实时表现。
DeepSeek 宣布将自研推理框架 DeepInfer 完全开源,代码已发布在 GitHub。该框架用于支撑 DeepSeek-V4.1-Flash 的大规模服务,主打高吞吐与低延迟,DeepSeek 称分享生产栈意在帮助社区降低算力成本与能耗。
推荐理由:DeepSeek 公开了支撑自家模型规模化服务的推理框架,读者可据此了解其生产栈的吞吐与延迟取舍。
NVIDIA 发布面向创作者、游戏玩家和 AI 智能体的 Windows PC 产品 RTX Spark,并在全球多地举办发布活动。
推荐理由:原文给出 RTX Spark 的本地 AI 实测完成时间对比,可据此判断笔记本端侧推理的可用性。
微软研究院发布零知识虚拟机 Magnetar,可直接证明用 Rust、Go 或 C 编写的程序执行过程,并输出可在约 12 毫秒内验证的简短证明。在 15 个基准程序上,它比同类最快的 zkVM 平均快 10 到 39 倍,在笔记本上每秒可证明 7.2 至 8.7 百万条 RISC-V 指令。
推荐理由:微软研究院梳理十余年零知识证明研究脉络,说明 Magnetar 如何在通用性、速度与密码学假设之间同时取得进展。
微软研究院开源 Agent Lightning v1.0,这是一个约 3500 行代码的轻量 Agentic RL 框架,提出 Harnessed Agentic RL 范式,让部署时使用的 agent harness 直接参与强化学习,无需在训练框架内重写 agent。
推荐理由:微软研究院开源约 3500 行的 Agent RL 框架,用真实 harness 参与训练,并给出 6000 样本提升 14.6 个点的完整流程。