消息称 Groq 下一代推理芯片将堆叠 DRAM 以弥补 SRAM 容量不足
据行业消息,Groq 计划在下一代推理芯片中堆叠 DRAM,以绕开 SRAM 容量偏小的问题。现有 Groq 3 LPU 的 500MB 片上 SRAM 带宽为 150TB/s,约为 Rubin GPU HBM 带宽的 7 倍,但 256 芯片整机架仅 128GB,低于单块 Rubin GPU 的 288GB,8-bit 万亿参数模型仅权重就需约 2000 颗芯片。
据行业消息,Groq 计划在下一代推理芯片中堆叠 DRAM,以绕开 SRAM 容量偏小的问题。现有 Groq 3 LPU 的 500MB 片上 SRAM 带宽为 150TB/s,约为 Rubin GPU HBM 带宽的 7 倍,但 256 芯片整机架仅 128GB,低于单块 Rubin GPU 的 288GB,8-bit 万亿参数模型仅权重就需约 2000 颗芯片。
Tim Cook 上周四走访上海床垫家居品牌蓝盒子,了解其以 Mac 和 iPad 支撑设计、内容制作与线下试睡服务的用法。蓝盒子用一台 64GB 内存 Mac mini 本地部署 35B 参数千问模型,员工以自然语言转 SQL 查询销售、库存等数据,已投用约一个月,部分查询从一两天缩短到几分钟。新员工开机联网即可零接触部署,从拆封到开工约 12 分钟。
Amazon SageMaker JumpStart 在 2026 年 1 月至 9 月新增超 100 个模型,覆盖 30 家提供商。阿里 Qwen 贡献 29 个模型,NVIDIA 17 个,Mistral 7 个,Google 6 个 Gemma 4 变体,IBM 和 Cohere 各 4 个。新增模型重点覆盖多模态、量化与紧凑模型以及图像视频生成能力。
苹果在Apple Intelligence产品页标注部分依赖服务器端模型的AI功能将有每日使用限制,未来可通过付费获得额外额度,库克透露国行苹果AI将在10月底启动测试。
SpaceX 在 Q3 2026 财报电话会上披露,向 Anthropic、Google 等客户出租算力的 Super Intelligence 业务收入 76 亿美元,接近上季度 25.6 亿美元的 3 倍,超过 Starlink 的 52 亿美元成为最大收入来源,其中 6.08 亿美元来自新收购的 Cursor。
推荐理由:SpaceX 财报电话会显示 AI 算力业务已成其最大收入来源,读者可据此了解算力租赁的规模与资本开支节奏。
众星微发布三款互连芯片,其中一款将PCIe Switch直接集成进网卡,整板少一颗芯片并降低时延。中国信通院数据显示,大规模分布式训练中网络通信耗时占比达30%到50%,国内Token实际流通效率仅60%。800G网卡正从旗舰配置变为AI集群标配,但需跨越SerDes、功耗和PCIe Gen6三道关。
海康威视在2026中国工博会展出百余款场景数字化产品,覆盖半导体封装3D AXI检测、3200℃高温计、听诊光纤与扫描成像雷达。其底气来自可见光、红外、X光、毫米波、声波等多维感知体系与海康观澜大模型,X-ray检测样本需求从数千张降至几十张。SOP方案已落地数百个项目,智能工厂超1500台移动机器人协同作业。
奇瑞在 2026 全球创新大会上公布「瑶光 2035」战略,目标从传统汽车制造商进化为以 AI 驱动的全球智能科技公司。会上发布面向物理 AI 的垂类基础大模型 CheryMind,已连接超 400 个企业系统、覆盖 200 多个业务场景,并公布规划支持千亿参数级模型、双芯片 NPU 算力 2400 TOPS 的紫微 C100 芯片,计划 2027 年推出。
快速推理对智能体正变得越来越重要。 随着主动式、常驻智能体的兴起,以及复杂任务对多智能体系统需求的增长,异构计算变得至关重要。@general_compute 正在解决这一关键问题,而与 @positron_ai 的合作非常合理。
在拥有自己的智能技术栈比以往任何时候都更重要之际,可靠地获取 AI 基础设施和智能体算力是实现这一愿景的关键。 我希望看到更多这样的算力能够轻松提供给正在做实验和后训练的开发者和构建者。这正是 @shadeformai 的 Flex VMs 公告让我感兴趣的地方。 恭喜 @edsgoode 和团队!
英伟达RTX PRO 5500尚未批量交付,国内订购规模已超300万张,而英伟达每季度向中国市场供应的上限为50万张。该卡拥有84GB显存并支持MIG功能,可划分出两个各含42GB显存的实例,预期交付报价集中在8万元至12万元区间。有爆料称英伟达可能将GB202芯片产能转向RTX PRO系列,国内5090渠道报价已升至5.7万元左右。
阿里云连续4年入选 Gartner 2026年度《容器管理魔力象限》"领导者"象限,是亚太地区唯一获此评级的科技公司。Gartner 将"丰富的AI集成""全面的功能覆盖"和"在严苛生产环境中的广泛使用"列为阿里云核心优势,其在《容器管理关键能力》报告六大场景中有四项位居前二。
雷锋网梳理爱奇艺自2023年3月全员AI培训以来的580天实践,覆盖剧本工坊、影像工坊、虚拟制作与桃豆世界等应用。截至2024年6月超98%员工调用过大模型,2024年调用量较2023年增长83倍,奇智平台上有64个业务调用6300多个智能体应用。剧本工坊已累计为5000部小说和剧本提供评估提速,2025年4月版本接入DeepSeek等国产大模型,不到30分钟可完成50万字剧本评估。
巴塞罗那超级计算中心(BSC)的 AI Factory 加速器计划在试点后全面运营,为初创企业提供主权算力、技术支持和培训,部分服务已可通过 NVIDIA Inception 门户获取。
NVIDIA 在柏林与德国总理默茨讨论将德国工程能力与 NVIDIA AI 结合,推进制造业和汽车领域的工业 AI。NVIDIA 还计划投资 Agile Robots SE、aveliosmed、MireloAI 和 reflexaerospace 四家公司,覆盖机器人、医疗、创意工具和航天领域。
NVIDIA 与德国联邦政府签署联合意向声明,将围绕物理 AI 前沿模型展开合作,并接入德国“工业 4.0 平台”。黄仁勋同时宣布对 Agile Robots、Avelios Medical、Mirelo、Reflex Aerospace 四家德国初创公司的新投资,属于 NVIDIA 对欧洲近 100 亿美元承诺的一部分。
非常期待这个。 Ed 关于智能体时代算力获取的观点非常准确。 此外,AI 基础设施需要做出改变,以满足智能体工程的需求。 智能体可能需要在同一工作流中同时使用 GPU 进行推理和 CPU 运行代码(例如模型与 harness 的协同演进)。我想要能适应这些变化需求的租赁方案。 本周关注 @edsgoode 和 @shadeformai,了解相关酷炫发布。
NVIDIA 与欧洲广播联盟(EBU)扩大主权框架合作,引入主权云厂商、开放模型开发者和系统集成商,明确广播机构部署智能体时数据、基础设施、模型与安全的控制方式,NVIDIA Nemotron 开放模型可供定制。
当近 100 年来几乎成为汽车安全代名词的品牌与 AI 联手,奇妙的事情就会发生。🚗 我们正在扩大与沃尔沃汽车的合作伙伴关系,以推进安全的自动驾驶:沃尔沃的安全专长将与 NVIDIA Hyperion、Halos OS 和 Alpamayo Stack 驾驶软件相结合,并将在下一代沃尔沃汽车中首次亮相。 阅读新闻:https://nvidianews.nvidia.com/news/volvo-cars-and-nvidia-expand-partnership-to-advance-safe-automated-driving
没有算力来验证,一个想法走不了多远。 @JensenHuang 与 Wallenberg Investments 的 Marcus Wallenberg、@Spotify 的 @eldsjal 以及 Sferical AI 的 Jenny Nordlöw 一同庆祝 Sferical One 的发布,这是一台由 NVIDIA 提供算力的共享 AI 超级计算机。 更多算力,帮助研究人员和企业将想法转化为突破。🇸🇪
Modal 年化经常性收入突破 10 亿美元,并以 157.5 亿美元估值完成 7.5 亿美元 D 轮融资,由 Accel 领投,使用量同比增长超过 15 倍。其 2023 年推出的 Sandboxes 产品单独年化收入已达 3 亿美元,累计启动近 30 亿个沙箱,可扩展至百万级并发。
NVIDIA 在都柏林 AI in Science Summit 上加入欧盟委员会发起的 AI in Science Enablers Initiative,为欧洲科研社区提供加速工具、算力与培训支持。
NVIDIA 发文介绍北欧科技生态,Spotify 用其算力提升播客推荐效率,ABB Robotics 借助仿真训练和测试机器人,初创公司则基于开放模型开发瑞典语转写、专利检索等应用。文章称这些应用背后是算力投入以及研究者、创业者和企业组成的社区,并引导读者在 GTC Berlin 前探索该生态。
Google 已将 Project Suncatcher 的原型卫星搭乘 SpaceX Transporter-18 拼车任务送入轨道,该卫星与 Planet 合作建造,用于收集 Google TPU 在太空飞行物理压力与极端环境下表现的数据。这一去年公布的登月项目最终想探索如何把多个卫星星座连接起来做规模化机器学习;在低地球轨道运行可获取近乎持续的阳光,太阳能发电量最高可达地面的 8 倍。
感谢 Jensen 和 @nvidia 团队的支持。我们将携手部署至少 1GW 的 Vera Rubin 系统,把可适配的协作式 AI 带给每一个人。 https://thinkingmachines.ai/nvidia-partnership/