跳到正文
Simon Willison·· 4 小时前同事件AI 评分78

Anthropic IPO 路演视频披露多芯片训练策略与算力倍增器

Anthropic's IPO roadshow video

AI 导读

Anthropic 昨日启动 IPO 路演,其路演视频披露了此前未公开的业务信息。

同一件事,精选收录的是《Anthropic 启动拟议 IPO 路演》

正文 · AI 翻译

2026年11月11日 - 链接博客

Anthropic 的 IPO 路演视频。Anthropic 昨天启动了他们的 IPO 路演,其路演视频中包含了一些此前未公开的关于其业务运作方式的信息。

联合创始人 Tom Brown 主讲的“计算策略”部分尤其有趣,其中描述了 Anthropic 如何跨 AWS Trainium、Google TPU、NVIDIA GPU 和 AMD GPU 训练和运行 Claude。

我不确定为什么没有官方视频文字稿,但这里有一份我用 MacWhisper 提取的文字稿。以下是亮点:

我们现在跨全部四大芯片家族训练和运行 Claude。这之所以可能,是因为我们很早就对多芯片策略下了一个非常规的赌注。当时,许多人认为在不同芯片上运行 AI 模型不值得付出努力。每种芯片都需要自己定制的软件栈和推理栈,构建起来既昂贵又困难。我们这样做已经好几年了,而且已经变得极其擅长。[...]

举个例子,今年我们首次开始使用 AMD GPU。过去,引入一个新的芯片平台需要数十名工程师花费数月的工作。这一次,我们让 Mythos 试了试。它在短短三天内就让 Claude 在 AMD 上运行起来,基本上没有人工干预。Claude 移植或编写了几乎 100% 的内核。[...]

我们计算优势的第二个驱动因素是我们发现计算乘数的速度。我们关注总有效计算量,即物理容量与我们发现的计算乘数的乘积。我们每发现一个乘数,都会让我们的总有效计算量池变得更大。例如,假设你需要 100 个计算单位来训练一个具有某种智能水平的模型。4 倍计算乘数意味着你可以用 25 个计算单位来训练完全相同的模型。或者你可以用那 100 个物理单位来训练一个更智能的模型,而这样的模型以前需要 400 个单位。

计算乘数为我们创造了难以复制的竞争优势。它们会相互叠加。我们发现的每个新乘数都会对之前的乘数产生正向影响。它们会累积。我们相信,随着我们接近递归自我改进,这一进程还能进一步加速。Claude 将能够完全自行发现计算乘数,使计算乘数的数量增长得越来越快。

去年九月,我们在 Anthropic 的三起近期问题的复盘中窥见了其多芯片策略的端倪,文中描述了一些仅影响其 TPU 部署的缺陷。

来源:Simon Willison · simonwillison.net