跳到正文

技术方向

部署工程 最新动态

怎么把模型跑得更快更省钱:推理加速、显存与成本、服务部署与基础设施选型。

6 条精选近 30 天 6 条共收录 97 条

更新

部署工程的精选

今天10月21日周三第 1–6 条
  1. Rohan Paul (X)85

    SpaceX 财报电话会:AI 算力业务成最大收入来源,季度营收 146 亿美元

    SpaceX 在 Q3 2026 财报电话会上披露,向 Anthropic、Google 等客户出租算力的 Super Intelligence 业务收入 76 亿美元,接近上季度 25.6 亿美元的 3 倍,超过 Starlink 的 52 亿美元成为最大收入来源,其中 6.08 亿美元来自新收购的 Cursor。

    推荐理由:SpaceX 财报电话会显示 AI 算力业务已成其最大收入来源,读者可据此了解算力租赁的规模与资本开支节奏。

10月20日周二
  1. DeepSeek (X)72

    DeepSeek 开源推理框架 DeepInfer

    DeepSeek 宣布将自研推理框架 DeepInfer 完全开源,代码已发布在 GitHub。该框架用于支撑 DeepSeek-V4.1-Flash 的大规模服务,主打高吞吐与低延迟,DeepSeek 称分享生产栈意在帮助社区降低算力成本与能耗。

    推荐理由:DeepSeek 公开了支撑自家模型规模化服务的推理框架,读者可据此了解其生产栈的吞吐与延迟取舍。

10月16日周五
  1. Microsoft Research60

    微软研究院发布 Magnetar:基于标准哈希函数的通用零知识证明系统

    微软研究院发布零知识虚拟机 Magnetar,可直接证明用 Rust、Go 或 C 编写的程序执行过程,并输出可在约 12 毫秒内验证的简短证明。在 15 个基准程序上,它比同类最快的 zkVM 平均快 10 到 39 倍,在笔记本上每秒可证明 7.2 至 8.7 百万条 RISC-V 指令。

    推荐理由:微软研究院梳理十余年零知识证明研究脉络,说明 Magnetar 如何在通用性、速度与密码学假设之间同时取得进展。

10月8日周四
  1. Microsoft Research66

    微软研究院开源 Agent Lightning v1.0:约 3500 行的轻量 Agentic RL 框架

    微软研究院开源 Agent Lightning v1.0,这是一个约 3500 行代码的轻量 Agentic RL 框架,提出 Harnessed Agentic RL 范式,让部署时使用的 agent harness 直接参与强化学习,无需在训练框架内重写 agent。

    推荐理由:微软研究院开源约 3500 行的 Agent RL 框架,用真实 harness 参与训练,并给出 6000 样本提升 14.6 个点的完整流程。