Anthropic 完成 813 亿美元 IPO,安全声誉面临考验
With the biggest IPO of all time, Anthropic’s ‘good guy’ reputation is on the line
Anthropic 完成多年筹备的 IPO,募资 813 亿美元,规模超过 SpaceX,成为史上最大 IPO。报道称其注册为公益公司并设有长期利益信托(LTBT),但该信托仅负责选任部分董事,对日常决策没有权限,实际治理权集中在创始人与信托手中。多位专家和前员工质疑信托成员缺乏 AI 专业背景,上市后公司在算力与商业化压力下更难为昂贵的安全投入提供理由。
同一件事,精选收录的是《Anthropic 将 IPO 定价为每股 83 美元,预计明日登陆纳斯达克》
今天是 Anthropic 的新起点:这场酝酿多年的 IPO 超越了 SpaceX,成为有史以来估值最高的公司,筹集了 813 亿美元,并为其他即将上市的 AI 实验室树立了重要先例。但这不仅仅是一个财务里程碑。
Anthropic 成立的初衷是优先考虑安全,其创始人曾离开 OpenAI 的高管研究职位。然而,随着 AI 竞赛的加速,其高管强调,Anthropic 只有通过赢得第一才能实现这一使命,这需要大量的资金和算力。毫不奇怪,深思熟虑、安全和有意的 AI 开发与赢得这场竞赛所需的纯粹速度相冲突。首次公开募股的加入使情况更加复杂,而 Anthropic 的领导层可以几乎单方面地推进它。这要归功于一种旨在使公司免受股东盈利压力的企业结构——但这种结构也消除了对其权力的典型制衡。
一位在 IPO 前离职的前 Anthropic 员工表示,他和 Anthropic 的其他人越来越觉得,在当前正常的市场结构下,AI 发展的步伐“难以维持”,尤其是在一个缺乏监管的强大行业中,激励机制存在错配。
Anthropic 多年来一直将自己定位为不同于其他 AI 公司且更为谨慎的公司。理论上,这也适用于其上市计划。它注册为公共利益公司(Public Benefit Corporation),这意味着 Anthropic 的董事会负有平衡其使命与股东财富最大化的责任。正如我的同事 Robert Hart 此前讨论的那样,它还建立了一种 极其不寻常的权力结构。
Anthropic 的长期利益信托基金(LTBT)于 2023 年 引入,其创始人拥有控股权,这意味着即使作为一家上市公司,他们也不会被股东投票罢免。一类特殊股票 Class T 允许一小群受托人——即 LTBT 的成员——拥有“选择和解雇部分” Anthropic 董事会成员的“权力”。他们不受典型股东压力的影响,理论上是对创始人的制衡,其任务是“在我们预期决策后果将远远超出 Anthropic 的关键节点上,平衡我们股东的财务利益和我们公共利益目的”。
现实情况要复杂得多。例如,LTBT 技术上从 Anthropic 七人董事会中选出四名成员,但这四人中的一人实际上需要得到 Anthropic 创始人的批准,这使得该信托基金未能实现简单的多数控制。关于提名或罢免董事还有规定:LTBT 必须提前 30 天向公司的“提名和公司治理委员会”通知其决定,该委员会由三名成员组成:联合创始人 Daniela Amodei(担任委员会主席)、Netflix 联合创始人 Reed Hastings 以及 Anthropic 投资者 Yasmin Razavi。
尽管 LTBT 成员对公司“没有财务兴趣”,但这并不能阻止 Anthropic 在理论上挖走一名受托人,并支付高额薪酬让他们为公司工作。前受托人马里亚诺-弗洛伦蒂诺·奎拉尔(Mariano-Florentino Cuéllar)于 8 月加入 Anthropic,担任首席全球事务官;OpenAI 过去也曾聘请前董事会成员菲吉迪·西莫(Fidji Simo)担任公司高管职位。Midas Project(一家非营利 AI 行业监督机构)创始人泰勒·约翰斯顿(Tyler Johnston)表示:“可以想象这样一种情况:如果某位受托人‘表现得过于激进或类似情况’,他们可以直接向该受托人提供一份包含数百万美元实际薪酬的报价,条件是辞去信托职务,这是他们对此进行某种监督的方式之一。”
尽管 LTBT 被宣传为制约 Anthropic 领导层的一种方式,但在一些外部观察者看来,其细则显得摇摇欲坠。科罗拉多大学法学院法学教授、公司治理专家安·利普顿(Ann Lipton)表示:“由于该信托对 Anthropic 没有财务利益,从理论上讲,它可以利用三名或四名董事中的权力来确保公司坚守使命。”“人们可能会质疑这种情况发生的可能性有多大。”
此外,利普顿质疑,即使信托拥有此类权力,它是否具备足够的知识来判断何时应对公司的计划或产品踩下刹车。列出的四位 LTBT 成员并非知名的 AI 专家:其中包括前美联储主席本·伯南克(Ben Bernanke)、外交政策分析师理查德·方廷(Richard Fontaine)、实验物理学家克里斯托弗·斯塔布斯(Christopher Stubbs),以及 GiveWell 前执行董事、LTBT 主席尼尔·巴迪·沙阿(Neil Buddy Shah)。利普顿说:“我不相信这些受托人或他们任命的董事对 AI 及其发展有深刻的见解,从而能够做出这些选择。”“他们都是非常有声望的人,但本·伯南克对 AI 了解多少呢?”
几位专家将 Anthropic 的 LTBT 与奥尔特曼被罢免前的 OpenAI 非营利董事会进行了比较:Midas Project 的约翰斯顿表示:“长期利益信托……的权力或缺乏权力的情况……在某些方面类似于 OpenAI 非营利组织所拥有的权力。”当然,该董事会决定罢免 OpenAI CEO 山姆·奥特曼(Sam Altman)的决定最终导致几天后奥特曼重新出任 CEO,且大多数董事会成员辞职并被替换。
但与 LTBT 相比,这里存在一个显著差异。在 OpenAI 重组之前,其非营利董事会被认为有必要时有权介入并指导公司的日常决策;即使在重组之后,他们在安全和安保事项(如推迟或停止模型发布)上仍保留这种能力。Anthropic 的 Form S-1 表明,LTBT 的主要职责是任命(并可能罢免)某些董事会成员,并不具备上述任一层面的权力。
相反,Anthropic 的结构看起来更像硅谷青睐的那种以创始人为中心的设置——就像马克·扎克伯格(Mark Zuckerberg)与 Meta,以及埃隆·马斯克(Elon Musk)与 SpaceX 那样。
Anthropic 未回应置评请求。
未来生命研究所(Future of Life Institute)负责 AI 和国家安全事务的哈姆扎·乔德里(Hamza Chaudhry)表示:“信托或受托人对日常决策没有任何决策权……因此,我对 LTBT 在其上市后成为治理关键机制并不抱太大希望。”
这位前 Anthropic 员工表示,Anthropic 的创始人几乎是唯一拥有真正决策权的人:"如果你能找到任何认识创始人、了解长期利益信托(Long-Term Benefit Trust)、理解决策是如何做出的,并认为长期利益信托拥有任何实质权力的人,我会感到惊讶,"他说。该员工补充说,受托人既"缺乏对创始人进行有效监督的能力",而且也是被特意选出来以避免"惹是生非"的。
作为一家上市公司,Anthropic 将面临前所未有的压力去筹集资金,无论是通过增加收入还是融资。这意味着,正如行业多年来一直存在的趋势一样,证明昂贵的 AI 安全举措合理性将变得更加困难,并且加速产品发布和商业化的压力也将不可避免。"这个信托和创始人共同拥有实际的治理权," Lipton 说。"所以,你要么相信他们会适当平衡社会利益,要么不相信。无论哪种情况,他们任何社会冲动所面临的真正约束将是 Anthropic 需要资金这一事实。"
Anthropic 一直公开承认其极度需要真金白银,特别是为了购买更多的计算资源并加快其 AI 进展。"计算资源是公司面临的最深层的商业困境," Amodei 上周五在与摩根大通 CEO Jamie Dimon 的直播对话中表示。"如果你买得太多,当然会在财务上过度扩张。如果你买得太少,那么你就无法支持客户的推理需求,更重要的是……你无法进行研发。"
Anthropic 的网站总结了公司的存在理由只有一件事:"将安全置于前沿的 AI 研究和产品。"但也很清楚,为了让这一安全承诺有意义,Anthropic 需要巨大的资源来维持其业务的可行性。与其他实验室一样,它一直在追求递归自我改进,这是一个有争议且潜在危险的行业里程碑,指的是能够自主改进并创建自身高级版本的 AI 系统。"你不能在落后于人的情况下做安全," Anthropic 政策主管 Sarah Heck 在九月说道。
这种解释并没有让所有人满意,包括一些 Anthropic 的员工。Anthropic 的安全研究负责人于今年二月离职,声称"世界正处于危险之中";其中一位研究人员 Jacob Coxon 在九月因声称 Anthropic 和 OpenAI 都在"直冲自我改进的超级智能,并在拿我们的生命赌博"而登上头条;同月,一名 Anthropic 安全研究人员离职前往非营利第三方 AI 审计机构 METR 工作,写道"AI 公司正走在给社会施加前所未有的风险水平的轨道上",并且"虽然 Anthropic 没有发生像 HuggingFace 遭受攻击(由 OpenAI 代理发起)那样严重的事件,但我认为这在一定程度上是运气问题。"
周三,人工智能安全中心发布了一份新的声明,包括来自Hugging Face、哈佛大学等知名行业的签署方在内,指控Anthropic“不是一家安全的AI公司”,并试图“以更大的利益为名积累权力”。声明称:“Anthropic警告说,递归自我改进的AI可能会集中权力并脱离人类控制,但该公司却竞相率先构建它。该公司利用安全品牌来吸引投资者、员工和公众——与此同时,它悄悄削弱了其安全承诺,并为自利的监管游说。”
这位前Anthropic员工表示,他最初觉得自己在AI竞赛中需要率先实现安全结果上“喝下了Kool-Aid”,但随后感到幻灭,意识到这种向上竞争并不“值得所付出的代价”——即一家公司不应能够“单方面”决定追求RSI。(Amodei曾公开表示,“如果不加以限制,[RSI]可能会超越我们理解和控制这些系统的能力,因此必须非常谨慎地推进,甚至完全不推进。”)
这位前员工说:“私营公司在构建一种新形式的智能方面做得相当荒谬,这种智能有望比人类更强大、更具影响力,而且在这方面受到的监督甚至比现在的餐车还要少。”
Anthropic的网站称:“归根结底,使命是我们所有人来到这里的原因。它赋予我们共同的目标,使我们能够迅速行动,而不是被相互冲突的目标拉扯。它促进了信任和协作,并在我们的决策中起到最终裁决的作用。”问题是,Anthropic的使命解释是否会以及如何发生变化——尤其是在面临前所未有的压力,需要为其约1.5万亿美元的全稀释市值辩护之际。万亿。
关注此故事的主题和作者,以便在你的个性化主页信息流中看到更多类似内容,并接收电子邮件更新。
- 海登·菲尔德
来源:The Verge · AI · theverge.com