热点事件持续更新

消息称Groq下一代推理芯片将堆叠DRAM

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

据行业消息，Groq 计划在下一代推理芯片中堆叠 DRAM，以弥补现有 SRAM 容量不足。Groq 尚未公布这一计划；早先的供应链报道则称另一条路线是 SK 海力士 DRAM 与 SRAM 一起，通过混合键合直接贴合在逻辑裸片上。现有 Groq 3 LPU 的片上 SRAM 为 500MB，带宽 150TB/s，约为 Rubin GPU HBM 带宽的 7 倍；但 256 芯片整机架合计仅 128GB，低于单块 Rubin GPU 的 288GB。按此容量，8-bit 万亿参数模型仅权重就需约 2000 颗芯片。

AI 根据报道生成 · 2 小时前更新

最新进展10月21日 16:09

消息称 Groq 下一代推理芯片将堆叠 DRAM 以弥补 SRAM 容量不足

报道时间线

沿着报道，了解事件的不同侧面。

10月21日

16:09
Rohan Paul (X)
消息称 Groq 下一代推理芯片将堆叠 DRAM 以弥补 SRAM 容量不足
据行业消息，Groq 计划在下一代推理芯片中堆叠 DRAM，以绕开 SRAM 容量偏小的问题。现有 Groq 3 LPU 的 500MB 片上 SRAM 带宽为 150TB/s，约为 Rubin GPU HBM 带宽的 7 倍，但 256 芯片整机架仅 128GB，低于单块 Rubin GPU 的 288GB，8-bit 万亿参数模型仅权重就需约 2000 颗芯片。

本事件热度走势

还没有足够的连续观测数据，暂不绘制趋势。