跳到正文
今天10月21日周三3 条
  1. Latent Space44

    SF Compute CEO Evan Conrad 谈可编程数据中心与 GPU 算力交易市场

    SF Compute 正把 GPU 算力做成可交易市场,并自建云运营能力实现"物理交割",让买家拿到可用算力而非现金结算。CEO Evan Conrad 称 NVIDIA 因缺乏中立性无法自建这类交易所,而 SF Compute 通过匹配不同约束条件的订单在技术快速迭代期维持交易。他还提到可动态切分 InfiniBand 网络等让基础设施可编程的工程细节。

10月20日周二
  1. MIT Technology Review · AI18

    企业 AI 的新经济学:从 token 成本转向有效成果成本

    HPE 提出企业 AI 的成本衡量应从 token 或 GPU 小时价格转向"每个有用成果的有效成本",即完成可用工作所需的平台、模型、运维与算力总成本。企业可选自建栈、按需消费或集成私有 AI 平台三条路径,其中 HPE Private Cloud AI 通过调度、模型选择、GPU 分区和 KV-cache 管理提升利用率,并附 90 天前驻工程师服务。

10月19日周一
  1. 极客公园30

    端侧 AI 商业化难在哪?麒麟软件、后摩智能等五位一线操盘手讲透了

    后摩智能 10 月 14 日在北京举办生态合作伙伴大会,圆桌环节五位来自操作系统、应用、数据工程、整机集成和芯片领域的从业者讨论端侧 AI 如何成为一门生意。麒麟软件姚翎称涉密场景下本地安全没有商量余地,罗格数据刘学鹏认为企业要把 AI 数字员工招进内部而非放在云端。后摩智能陈仲铭表示正通过 M 系列做大算力和先进封装做大带宽,突破算力、带宽、功耗的「不可能三角」。

7月7日周二
  1. Berkeley AI Research42

    智能免费之后怎么办?面向智能体、由智能体构建的数据系统

    UC Berkeley 团队提出,推理成本已从 GPT-4 级约 $30/百万 token 降至不足 $1,部分厂商低于 $0.10,基准测试中推理价格每年下降 9x 至 900x、中位数约 50x。作者据此提出三类数据系统挑战:为智能体设计的数据系统、支撑智能体群体运行的数据系统、以及由智能体合成的数据系统。

5月8日周五
  1. Berkeley AI Research36

    自适应并行推理:高效推理扩展的下一个范式

    伯克利 AI 研究团队综述并行推理进展,重点分析自适应并行推理——让模型自行决定何时分解并并行化子任务、开多少并发线程以及如何协调。现有方法如 self-consistency、Best-of-N、Tree of Thoughts、MCTS、ParaThinker、GroupThink 和 Hogwild! Inference 的并行结构多由外部设定,而非模型自主选择。

3月27日周五