Anthropic更新S-1/A披露RSI风险估算
先了解这件事
Anthropic 更新了 S-1/A 注册文件,在第 29 页新增表述称,内部估算显示公司可能即将触及 Responsible Scaling Policy 中“dramatically accelerated progress attributable to AI”的 RSI 危险阈值,即一年取得 2018–2024 基线两年的进展。 文件同时称,Anthropic 尚未将任何现有模型认定超过该阈值,仍在评估底层数据;公司正评估触及该 AI 研发能力阈值的含义,并考虑更新 Responsible Scaling Policy,要求对研发流程中的部分决策进行人工审核与批准,以在模型承担更多研发工作时保持人类控制。上述内容来自 Andrew Curran 引述的文件原文。
AI 根据报道生成 · 3 小时前更新
事件进展
2 个进展
- 11月3日 01:36 · 1 篇报道Anthropic修订S-1披露AI加速进展风险Andrew Curran:Anthropic 修订版 S-1 称未来模型或即将触及 RSP 加速进展门槛
- 11月3日 00:18 · 2 篇报道Anthropic更新S-1/A披露RSI风险估算Andrew Curran:Anthropic 更新 S-1/A,称内部估算可能即将触及 RSI 危险阈值
报道时间线
沿着报道,了解事件的不同侧面。
- Rohan Paul (X)Anthropic 更新 S1/IPO 文件:未来模型或逼近递归自我改进阈值
Rohan Paul 解读 Anthropic 最新更新的 S1/IPO 文件,称未来模型可能即将触及递归自我改进(RSI)阈值。该文件援引 Responsible Scaling Policy,将这一阈值定义为 AI 能力提升速度达到无重大 AI 辅助时最快持续速度的 2 倍,即 1 年产出相当于正常 2 年的进展。
- Andrew CurranAnthropic 修订版 S-1 称未来模型或即将触及 RSP 加速进展门槛
Anthropic 在修订版 S-1 中表示,其内部对未来模型的估算和预期显示,公司可能“即将”满足“由 AI 带来的显著加速进展”这一 RSP 定义。按该定义,门槛是 AI 能力进展速度达到 Anthropic 在至少 3 个模型代际中观察到的无显著 AI 参与 AI 研发时的最快扩展进展速度的 2 倍,且这种翻倍可能源于研究与工程自动化。推文指出,2 倍进展速度相当于把 2 年的进展压缩到 1 年,例如原本一年提升 9 倍,达到门槛时预期一年可提升 81 倍。
- Andrew Curran精选Anthropic 更新 S-1/A,称内部估算可能即将触及 RSI 危险阈值
Andrew Curran 指出,Anthropic 今早在 S-1/A 第 29 页新增表述,称内部估算显示公司可能即将达到其 Responsible Scaling Policy 中「dramatically accelerated progress attributable to AI」的 RSI 危险阈值,即一年取得 2018–2024 基线两年的进展。他引用的文件原文还提到,Anthropic 尚未将任何现有模型认定超过该阈值,并正考虑更新 Responsible Scaling Policy,要求对研发流程中的部分决策进行人工审核与批准,以在前沿模型开发中保持人类控制。
本事件热度走势
- 可比范围当前
- 20
- 可比范围峰值
- 2011月3日 03:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。