跳到正文
热点事件观察中

OpenAI暂停递归自我改进并引入第三方评估

3 篇报道2 个报道来源3 天前更新

先了解这件事

AI 综述

OpenAI 宣布暂不推进 AI 递归自我改进,并邀请 METR 等四家机构驻场进行安全评估。 OpenAI 创始人山姆·奥特曼在 11 月 16 日的 Semafor 活动上表示,公司本可以进一步开展该技术,但目前无法确保安全,因此明确拒绝将未来决策权移交给 AI。此举旨在通过外部独立机构的驻场监督,回应外界对 AI 自主能力升级的担忧。

AI 根据报道生成 · 2 天前更新

事件进展

2 个进展

  1. 11月18日 05:16 · 2 篇报道
    Sam Altman 谈 OpenAI 如何用 RSI 构建下一代模型
    新智元:奥特曼称暂不推进递归自我改进,OpenAI 邀 METR 等四家机构驻场评估
  2. 11月8日 07:03 · 1 篇报道
    呼吁国会禁止AI递归自我改进
    Rohan Paul (X):呼吁国会禁止AI递归自我改进

报道时间线

沿着报道,了解事件的不同侧面。

11月19日
  1. 新智元
    奥特曼称暂不推进递归自我改进,OpenAI 邀 METR 等四家机构驻场评估

    奥特曼在 11 月 16 日 Semafor 活动上表示,OpenAI 本可以进一步推进递归自我改进,但目前无法安全地这么做,并明确拒绝把未来决策权移交给 AI。

11月18日
  1. Rohan Paul (X)
    Sam Altman 谈 OpenAI 如何用 RSI 构建下一代模型

    Sam Altman 在 Semafor 的视频访谈中谈到 OpenAI 如何使用 RSI(递归自我改进)构建下一代模型。他表示,借助自家技术,新模型的开发速度确实比不用技术时更快,但并非按个按钮让模型自行设计下一版本、在无人监督下快速自我改进;OpenAI 本可以更偏向 RSI 一端,但他认为目前还无法安全地这样做。

11月8日
  1. Rohan Paul (X)
    呼吁国会禁止AI递归自我改进

    关于禁止RSI(递归自我改进)的讨论越来越响亮了。☹️

本事件热度走势

可比范围当前
3
可比范围峰值
1411月19日 13:00
近 24 小时变化
-49%

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。