跳到正文
The Decoder· Manuel Uth·· 3 天前精选AI 评分74

OpenAI 首次向四家独立机构开放内部 AI 系统现场审计

OpenAI opens its AI systems to four independent on-site auditors for the first time

AI 导读

OpenAI 首次允许 Apollo Research、METR、Transluce 和 Goodfire 四家外部审计机构进入公司现场,直接访问其内部 AI 系统以调查安全风险和模型行为。

推荐理由

OpenAI 首次向四家外部机构开放未发布模型与训练数据,读者可据此了解前沿实验室安全审查的实际权限边界。

正文 · AI 翻译

OpenAI 正向四家外部审计机构开放其内部 AI 系统的直接访问权限,以便在现场调查安全风险和模型行为。该公司表示,正与 Apollo Research、METR、Transluce 和 Goodfire 合作,正如 OpenAI 所宣布的。该计划建立在其监控系统早期 现场审查 的基础上,并履行了《白宫超级智能协议》中的承诺。

根据分配的任务,这些组织可以在 OpenAI 的办公室内访问未发布的模型、源代码、训练数据和监控系统。他们还可以与开发人员保密交谈。Apollo Research 正在检查模型是否秘密违背开发人员的意图。METR 正在审查最大规模强化学习训练运行中的 AI 不当行为,这是一种模型通过奖励进行学习的方法。Goodfire 正在分析内部模型流程,而 Transluce 正在评估训练后的安全检查。OpenAI 和 Transluce 还计划在 2027 年初进行为期八周的后续审查。

一个独立的安全委员会监督整个过程,接收未经删减的报告,并调解争议。审计人员独立发布他们的发现,但 OpenAI 可以删减机密材料,并延迟报告以首先修复风险。该公司预计初期会出现一些摩擦,但已经在考虑更多的审查,包括专注于公司文化和内部流程的审查。

无炒作的人工智能新闻 – 由人工策划

订阅 THE DECODER 以享受无广告阅读、每周人工智能通讯、每年六次的独家 "AI Radar" 前沿报告、完整档案访问以及我们的评论部分访问权限。

来源:The Decoder · the-decoder.com