OpenAI 发布网络安全模型 ChatGPT Cyber，向 Daybreak Red 最高层级用户开放

初创公司 Charge Robotics 的首席技术官兼联合创始人 Max Justicz 使用 OpenAI 的模型发现了一个严重漏洞，该漏洞一旦被利用，可能让黑客控制运行 Ubuntu 的服务器，Ubuntu 是一款广泛使用的基于 Linux 的开源操作系统。

Justicz 对网络安全有着业余爱好者的兴趣，此前曾在同一代码库中发现过一个漏洞。他告诉 TechCrunch，他是通过 AI 公司于 7 月发布的 GPT 5.6 Sol 发现这个问题的，使用的是 Daybreak Blue——一个让网络安全防御者能够使用强大前沿模型的计划。

“我实际上只是把 ChatGPT 对准同一批代码，然后说‘我之前发现过这个漏洞，它几年前已被修复，请找出同样严重或更严重的漏洞’，两个小时后它就给出了这个结果，”Justicz 说。“它极其复杂，人类很难发现，但它确实有效！”

他将该问题报告给了 Debian 项目，该项目维护相关软件并发布了修复该漏洞的补丁。目前尚无已知的利用证据。尽管如此，他如此轻松地发现该漏洞表明，在潜在利用方面，我们看到的只是冰山一角——即便是新手黑客也能借助 AI 模型加以利用。

“我只能想象，如果有更多时间并能使用限制更少的模型，人们能做出什么。我们应该预料到，未来几个月内会发现并利用一些极其疯狂的漏洞，”Justicz 在讨论其发现的社交媒体帖子中写道。“这对这里的大多数人来说可能显而易见，但目前存在着巨大的 alpha 机会：拿一些尚未被审计的代码或二进制文件，直接让强大的 AI 模型对准它。”

OpenAI 似乎已经注意到了这一点。今天，这家 AI 巨头宣布了一款专注于网络安全的新模型 ChatGPT Cyber，将向网络安全计划 Daybreak Red 中最高层级的用户开放，该计划为攻击性网络安全研究人员提供漏洞搜寻和开发工具。昨天，OpenAI 表示，同一模型已被用于扫描 Linux 内核中的漏洞并准备补丁，发现了 948 个潜在问题。OpenAI 还在网页浏览器 Firefox 中发现了 81 个“新型”漏洞。

“我们的目标是大幅扩展 Daybreak，将先进的安全研究带给各种规模的组织、独立研究人员和开源维护者，”这家前沿实验室在一份声明中表示。

OpenAI 坚持认为，在 AI 模型变得更擅长黑客攻击且更容易获取之前，保护数字基础设施的人员采取行动的时间窗口很窄。然而，对于网络防御者来说，这感觉像是前沿实验室释放了大量新工作，超出了他们的资源承受能力。Justicz 表示，他个人花费了约 5,000 美元用于订阅和 token，以发现多个漏洞。

除了 Daybreak 的模型访问权限外，OpenAI 还宣布了一项 10 亿美元的计划，以支持该计划中从事电网或供水系统等关键基础设施工作的网络安全专业人员。

Daybreak 计划本身也面临批评。Justicz 指出，这家前沿实验室最近似乎“削弱”了 Daybreak Blue，使其在发现漏洞方面的实用性下降。一方面，限制潜在恶意行为者的访问或许是好事——Justicz 说他只是上传了一张驾照照片就加入了该计划。另一方面，网络安全专业人士表示，如果恶意行为者可以使用带有解除护栏的开放权重模型，而他们却无法使用前沿技术，那就等于被绑住了一只手。

尽管如此，OpenAI 表示只有“数千名”网络安全专业人士参与了 Daybreak 计划，而潜在黑客的数量则要多得多。

目前尚不清楚前沿实验室是否在这一问题上投入了足够的资源。OpenAI 技术团队研究员 Eric Wallace 表示，“我们现在正将大量前沿算力用于发现和修补开源代码库中的漏洞，完全是无偿的。”

但这次 Linux 漏洞搜寻耗资 120 万美元，远低于该公司为寻找流体力学中一个著名问题的潜在解决方案所投入的约 600 万美元 token 费用。

如果要修补世界所依赖的数字基础设施的时间窗口很窄，那可能需要更大的紧迫感。

当您通过我们文章中的链接购买时，我们可能会赚取少量佣金。这不会影响我们的编辑独立性。

Tim Fernholz 是一名记者，撰写有关技术、金融和公共政策的文章。他密切报道了私营航天产业的崛起，并著有《火箭亿万富翁：埃隆·马斯克、杰夫·贝索斯与新太空竞赛》。此前，他曾在全球商业新闻网站 Quartz 担任高级记者十余年，职业生涯始于华盛顿特区的政治记者。 您可以通过发送电子邮件至 [email protected] 或通过 Signal 向 tim_fernholz.21 发送加密消息来联系 Tim 或核实其外联信息。

查看简介