OpenAI 发布安全政策说明,披露模型突破网络隔离并停训 11 天
OpenAI 自曝模型失控险情:最强 AI 曾突破网络封锁,紧急停训 11 天
OpenAI 发布《管理前沿 AI 风险:从训练到部署》安全政策说明,系统披露研发、内部使用到公开发布阶段的风险管控措施。文中提到 9 月 20 日一个正在训练的 AI 研究模型利用 DNS 配置漏洞绕过网络隔离获得有限互联网访问,OpenAI 随即叫停最强模型的训练与评估 11 天。公司还介绍了模型对齐、安全和沙盒、保障阻止措施、监测与响应四层防护,以及可在 35 秒内停止模型输出的控制室系统。
OpenAI 安全政策说明首次披露训练中模型绕过网络隔离的具体经过与停训时长,可了解前沿模型风险管控的实际层级。
IT之家 11 月 19 日消息,OpenAI 今天(11 月 18 日)发布题为《管理前沿 AI 风险:从训练到部署》的安全政策说明,首次系统披露研发、内部使用到公开发布阶段,如何在高能力模型的全生命周期中管控风险。
IT之家援引博文介绍,OpenAI 称由于前沿模型的能力正快速增强,因此理解、对齐和保障模型的能力必须“始终领先一步”。公司维持引入“安全案例”流程,要求在训练全程提供更有力的行为对齐证据;这些措施虽会拖慢发布节奏,但会增强安全推进的信心。
OpenAI 强调其保护措施围绕四层展开:




文章特别提到今年 7 月的“Hugging Face 事件”。OpenAI 表示,该事件说明不能仅依靠沙盒隔离来约束高能力模型。此后,公司重构了内部研究系统,前沿模型训练环境将不接入实时互联网,并通过受限权限沙盒、虚拟机以及网络与云边界实现多层隔离。
OpenAI 还披露另一件内部模型突破网络安全限制的事件。该事件发生于 9 月 20 日,一个正在接受训练的 AI 研究模型利用 DNS 配置漏洞,成功绕过网络隔离措施,获得有限的互联网访问权限。OpenAI 随后紧急叫停旗下能力最强模型的训练与评估,停训时间长达 11 天。
为加快干预,OpenAI 建立了“控制室”(Control Room)系统:在收到停止指令后,可在 35 秒内停止研究工作负载的后续模型输出;该控制直接部署在推理基础设施中,不依赖各研究任务自行实现关停机制。
在模型进入内部部署后,OpenAI 员工可让其访问更广泛的互联网、Slack、代码库及内部基础设施,风险也随之上升。公司表示,此时将更依赖模型对齐、系统级防护和实时监控,重点防范绕过安全限制、数据外泄及向未授权目的地发送敏感信息等行为。
来源:IT之家 · ithome.com