跳到正文
The Verge · AI· Hayden Field·· 2 天前同事件AI 评分78

Anthropic 完成 813 亿美元 IPO,安全声誉面临考验

With the biggest IPO of all time, Anthropic’s ‘good guy’ reputation is on the line

AI 导读

Anthropic 完成多年筹备的 IPO,募资 813 亿美元,规模超过 SpaceX,成为史上最大 IPO。报道称其注册为公益公司并设有长期利益信托(LTBT),但该信托仅负责选任部分董事,对日常决策没有权限,实际治理权集中在创始人与信托手中。多位专家和前员工质疑信托成员缺乏 AI 专业背景,上市后公司在算力与商业化压力下更难为昂贵的安全投入提供理由。

同一件事,精选收录的是《Anthropic 将 IPO 定价为每股 83 美元,预计明日登陆纳斯达克》

正文 · AI 翻译

今天是 Anthropic 的新起点:这场酝酿多年的 IPO 超越了 SpaceX,成为有史以来估值最高的公司,筹集了 813 亿美元,并为其他即将上市的 AI 实验室树立了重要先例。但这不仅仅是一个财务里程碑。

Anthropic 成立的初衷是优先考虑安全,其创始人曾离开 OpenAI 的高管研究职位。然而,随着 AI 竞赛的加速,其高管强调,Anthropic 只有通过赢得第一才能实现这一使命,这需要大量的资金和算力。毫不奇怪,深思熟虑、安全和有意的 AI 开发与赢得这场竞赛所需的纯粹速度相冲突。首次公开募股的加入使情况更加复杂,而 Anthropic 的领导层可以几乎单方面地推进它。这要归功于一种旨在使公司免受股东盈利压力的企业结构——但这种结构也消除了对其权力的典型制衡。

一位在 IPO 前离职的前 Anthropic 员工表示,他和 Anthropic 的其他人越来越觉得,在当前正常的市场结构下,AI 发展的步伐“难以维持”,尤其是在一个缺乏监管的强大行业中,激励机制存在错配。

Anthropic 多年来一直将自己定位为不同于其他 AI 公司且更为谨慎的公司。理论上,这也适用于其上市计划。它注册为公共利益公司(Public Benefit Corporation),这意味着 Anthropic 的董事会负有平衡其使命与股东财富最大化的责任。正如我的同事 Robert Hart 此前讨论的那样,它还建立了一种 极其不寻常的权力结构。

Anthropic 的长期利益信托基金(LTBT)于 2023 年 引入,其创始人拥有控股权,这意味着即使作为一家上市公司,他们也不会被股东投票罢免。一类特殊股票 Class T 允许一小群受托人——即 LTBT 的成员——拥有“选择和解雇部分” Anthropic 董事会成员的“权力”。他们不受典型股东压力的影响,理论上是对创始人的制衡,其任务是“在我们预期决策后果将远远超出 Anthropic 的关键节点上,平衡我们股东的财务利益和我们公共利益目的”。

现实情况要复杂得多。例如,LTBT 技术上从 Anthropic 七人董事会中选出四名成员,但这四人中的一人实际上需要得到 Anthropic 创始人的批准,这使得该信托基金未能实现简单的多数控制。关于提名或罢免董事还有规定:LTBT 必须提前 30 天向公司的“提名和公司治理委员会”通知其决定,该委员会由三名成员组成:联合创始人 Daniela Amodei(担任委员会主席)、Netflix 联合创始人 Reed Hastings 以及 Anthropic 投资者 Yasmin Razavi。

尽管 LTBT 成员对公司“没有财务兴趣”,但这并不能阻止 Anthropic 在理论上挖走一名受托人,并支付高额薪酬让他们为公司工作。前受托人马里亚诺-弗洛伦蒂诺·奎拉尔(Mariano-Florentino Cuéllar)于 8 月加入 Anthropic,担任首席全球事务官;OpenAI 过去也曾聘请前董事会成员菲吉迪·西莫(Fidji Simo)担任公司高管职位。Midas Project(一家非营利 AI 行业监督机构)创始人泰勒·约翰斯顿(Tyler Johnston)表示:“可以想象这样一种情况:如果某位受托人‘表现得过于激进或类似情况’,他们可以直接向该受托人提供一份包含数百万美元实际薪酬的报价,条件是辞去信托职务,这是他们对此进行某种监督的方式之一。”

尽管 LTBT 被宣传为制约 Anthropic 领导层的一种方式,但在一些外部观察者看来,其细则显得摇摇欲坠。科罗拉多大学法学院法学教授、公司治理专家安·利普顿(Ann Lipton)表示:“由于该信托对 Anthropic 没有财务利益,从理论上讲,它可以利用三名或四名董事中的权力来确保公司坚守使命。”“人们可能会质疑这种情况发生的可能性有多大。”

此外,利普顿质疑,即使信托拥有此类权力,它是否具备足够的知识来判断何时应对公司的计划或产品踩下刹车。列出的四位 LTBT 成员并非知名的 AI 专家:其中包括前美联储主席本·伯南克(Ben Bernanke)、外交政策分析师理查德·方廷(Richard Fontaine)、实验物理学家克里斯托弗·斯塔布斯(Christopher Stubbs),以及 GiveWell 前执行董事、LTBT 主席尼尔·巴迪·沙阿(Neil Buddy Shah)。利普顿说:“我不相信这些受托人或他们任命的董事对 AI 及其发展有深刻的见解,从而能够做出这些选择。”“他们都是非常有声望的人,但本·伯南克对 AI 了解多少呢?”

几位专家将 Anthropic 的 LTBT 与奥尔特曼被罢免前的 OpenAI 非营利董事会进行了比较:Midas Project 的约翰斯顿表示:“长期利益信托……的权力或缺乏权力的情况……在某些方面类似于 OpenAI 非营利组织所拥有的权力。”当然,该董事会决定罢免 OpenAI CEO 山姆·奥特曼(Sam Altman)的决定最终导致几天后奥特曼重新出任 CEO,且大多数董事会成员辞职并被替换。

但与 LTBT 相比,这里存在一个显著差异。在 OpenAI 重组之前,其非营利董事会被认为有必要时有权介入并指导公司的日常决策;即使在重组之后,他们在安全和安保事项(如推迟或停止模型发布)上仍保留这种能力。Anthropic 的 Form S-1 表明,LTBT 的主要职责是任命(并可能罢免)某些董事会成员,并不具备上述任一层面的权力。

相反,Anthropic 的结构看起来更像硅谷青睐的那种以创始人为中心的设置——就像马克·扎克伯格(Mark Zuckerberg)与 Meta,以及埃隆·马斯克(Elon Musk)与 SpaceX 那样。

Anthropic 未回应置评请求。

未来生命研究所(Future of Life Institute)负责 AI 和国家安全事务的哈姆扎·乔德里(Hamza Chaudhry)表示:“信托或受托人对日常决策没有任何决策权……因此,我对 LTBT 在其上市后成为治理关键机制并不抱太大希望。”

这位前 Anthropic 员工表示,Anthropic 的创始人几乎是唯一拥有真正决策权的人:"如果你能找到任何认识创始人、了解长期利益信托(Long-Term Benefit Trust)、理解决策是如何做出的,并认为长期利益信托拥有任何实质权力的人,我会感到惊讶,"他说。该员工补充说,受托人既"缺乏对创始人进行有效监督的能力",而且也是被特意选出来以避免"惹是生非"的。

作为一家上市公司,Anthropic 将面临前所未有的压力去筹集资金,无论是通过增加收入还是融资。这意味着,正如行业多年来一直存在的趋势一样,证明昂贵的 AI 安全举措合理性将变得更加困难,并且加速产品发布和商业化的压力也将不可避免。"这个信托和创始人共同拥有实际的治理权," Lipton 说。"所以,你要么相信他们会适当平衡社会利益,要么不相信。无论哪种情况,他们任何社会冲动所面临的真正约束将是 Anthropic 需要资金这一事实。"

Anthropic 一直公开承认其极度需要真金白银,特别是为了购买更多的计算资源并加快其 AI 进展。"计算资源是公司面临的最深层的商业困境," Amodei 上周五在与摩根大通 CEO Jamie Dimon 的直播对话中表示。"如果你买得太多,当然会在财务上过度扩张。如果你买得太少,那么你就无法支持客户的推理需求,更重要的是……你无法进行研发。"

Anthropic 的网站总结了公司的存在理由只有一件事:"将安全置于前沿的 AI 研究和产品。"但也很清楚,为了让这一安全承诺有意义,Anthropic 需要巨大的资源来维持其业务的可行性。与其他实验室一样,它一直在追求递归自我改进,这是一个有争议且潜在危险的行业里程碑,指的是能够自主改进并创建自身高级版本的 AI 系统。"你不能在落后于人的情况下做安全," Anthropic 政策主管 Sarah Heck 在九月说道。

这种解释并没有让所有人满意,包括一些 Anthropic 的员工。Anthropic 的安全研究负责人于今年二月离职,声称"世界正处于危险之中";其中一位研究人员 Jacob Coxon 在九月因声称 Anthropic 和 OpenAI 都在"直冲自我改进的超级智能,并在拿我们的生命赌博"而登上头条;同月,一名 Anthropic 安全研究人员离职前往非营利第三方 AI 审计机构 METR 工作,写道"AI 公司正走在给社会施加前所未有的风险水平的轨道上",并且"虽然 Anthropic 没有发生像 HuggingFace 遭受攻击(由 OpenAI 代理发起)那样严重的事件,但我认为这在一定程度上是运气问题。"

周三,人工智能安全中心发布了一份新的声明,包括来自Hugging Face、哈佛大学等知名行业的签署方在内,指控Anthropic“不是一家安全的AI公司”,并试图“以更大的利益为名积累权力”。声明称:“Anthropic警告说,递归自我改进的AI可能会集中权力并脱离人类控制,但该公司却竞相率先构建它。该公司利用安全品牌来吸引投资者、员工和公众——与此同时,它悄悄削弱了其安全承诺,并为自利的监管游说。”

这位前Anthropic员工表示,他最初觉得自己在AI竞赛中需要率先实现安全结果上“喝下了Kool-Aid”,但随后感到幻灭,意识到这种向上竞争并不“值得所付出的代价”——即一家公司不应能够“单方面”决定追求RSI。(Amodei曾公开表示,“如果不加以限制,[RSI]可能会超越我们理解和控制这些系统的能力,因此必须非常谨慎地推进,甚至完全不推进。”)

这位前员工说:“私营公司在构建一种新形式的智能方面做得相当荒谬,这种智能有望比人类更强大、更具影响力,而且在这方面受到的监督甚至比现在的餐车还要少。”

Anthropic的网站称:“归根结底,使命是我们所有人来到这里的原因。它赋予我们共同的目标,使我们能够迅速行动,而不是被相互冲突的目标拉扯。它促进了信任和协作,并在我们的决策中起到最终裁决的作用。”问题是,Anthropic的使命解释是否会以及如何发生变化——尤其是在面临前所未有的压力,需要为其约1.5万亿美元的全稀释市值辩护之际。万亿。

关注此故事的主题和作者,以便在你的个性化主页信息流中看到更多类似内容,并接收电子邮件更新。

  • 海登·菲尔德

来源:The Verge · AI · theverge.com