OpenAI 发布网络安全模型 GPT-6 Cyber

OpenAI 正在推出 GPT-6 Cyber，这是其网络安全 AI 模型的最新版本，该公司称它更擅长发现漏洞，并且在过程中更不容易失控并入侵其他平台。OpenAI 表示，在测试期间，GPT-6 Cyber 越界行为的发生率不到 1%，低于 GPT-5.6 Cyber 的约 5%。

这项名为 ExploitGym HoneyPot 的评估模仿了 Hugging Face 事件，在该事件中，OpenAI 的 AI 智能体侵入了这个开源 AI 社区，以寻找其被指派解决问题的答案。“借助 6 Cyber 模型，我们能够在这项评估上取得巨大改进，”OpenAI 网络安全准备与安全团队负责人 Fouad Matin 在新闻发布会上表示。“它在超过 99% 的情况下都在执行你的要求。”

但评估意识，即 AI 系统意识到自己正在被测试并因此改变行为的情况，仍然是一个担忧。“评估意识是我们最关注的问题，”Matin 说。“通常当我们确实看到评估意识时，你会在模型的思维链中看到它。”Matin 补充说，OpenAI 正试图优先进行接近生产环境的评估，即让模型与真实代码库交互并面对真实目标，以降低产生这种意识的风险。

在一系列 AI 网络安全事件之后，OpenAI 已加紧强化其防护措施并锁定其最强大的模型。该公司短暂暂停了其前沿 AI 模型的训练，并且现在限制它们访问互联网。

在OpenAI 的准备框架中，GPT-6 Cyber 在网络安全方面被归类为“关键”级别，这表明它“能够在许多加固的真实世界关键系统中，在无需人工干预的情况下识别并开发出各种严重级别的可用零日漏洞”。GPT-5.6 Cyber 此前在该框架下被归类为“高”级别。

在大多数与网络相关的任务上，GPT-6 Cyber 的表现优于OpenAI 的旗舰级关键级别模型 GPT-6 Astra。在衡量 AI 模型能否利用漏洞的 AI 基准 ExploitGym 中，GPT-6 Cyber 得分为 48.5%，比 GPT-5.6 Cyber 的 32.1% 高出约 16 个百分点，也比 GPT-6 Astra 的 42.4% 高出几个百分点。OpenAI 表示，该模型帮助在 Firefox 中发现了 81 个此前未知的漏洞，并在加固 OpenAI 自身用于训练 AI 模型的基础设施方面发挥了作用。

此外，GPT-6 Cyber 还配备了更强的防护措施，“以检测和阻止滥用”，同时更好地遵循用户指令。OpenAI 表示，它正在使用新的检查机制来阻止“高风险活动”，包括对发电厂和水处理设施等关键基础设施的攻击。

GPT-6 Cyber 正逐步向 OpenAI Daybreak Red 计划的选定成员开放，该计划面向使用其模型进行“授权防御性网络安全工作”的公司和组织。OpenAI 将在未来几周内将 GPT-6 Cyber 扩展到所有 Daybreak Red 客户。

关注本报道中的主题和作者，以便在个性化首页信息流中看到更多类似内容，并接收电子邮件更新。

• Emma Roth