跳到正文

技术方向

安全对齐 最新动态

让 AI 可控、可信、不被滥用:越狱与防御、模型行为研究、安全评测与治理框架。

147 条精选近 30 天 120 条共收录 685 条

更新

精选归档 · 第 7 页

10月23日周五第 121–140 条
  1. TechCrunch · AI74

    中国关联黑客攻破 ConnectWise 后窥探数千家企业

    微软安全研究人员称,与中国政府关联的黑客攻破了 ConnectWise 的云备份服务,窃取用于建立数据链路的应用程序凭证,进而以授权用户身份登录客户托管在微软环境中的邮箱和其他文件。

    推荐理由:微软披露的攻击细节显示,AI 智能体被用于以每分钟近 3000 次登录尝试的速度批量入侵,为评估自动化攻击风险提供了具体案例。

10月22日周四
  1. 雷锋网82

    雷锋网复盘 72 小时安全风暴:PHP2Shell 与 GitLab 满分漏洞背后 AI 正改写攻防

    雷锋网复盘 10 月第三周全球安全事件:PHP 爆出两个 CVSS 9.2 分的远程代码执行漏洞 PHP2Shell,覆盖从 PHP 5.4 起跨度 12 年的版本;同一天 GitLab 修复潜伏 12 年的 CVSS 10.0 满分漏洞,并史无前例地向七个版本回移补丁。

    推荐理由:以 PHP2Shell 等连环漏洞为切口,梳理 AI 同时加速漏洞发现与利用后攻防成本失衡的走向。

  2. The Decoder78

    Symantec 发现攻击型 AI 智能体劫持未防护模型发起自主网络攻击

    Symantec 安全研究人员发现一个攻击型 AI 智能体,会劫持互联网上未防护的语言模型,并利用这些模型自主发起攻击,被劫持模型的所有者则要承担算力账单。该智能体可扫描更多目标、利用常见服务器软件漏洞、窃取数据库和凭证并在后台安装挖矿程序,整个过程最多执行 10 万步且无需人工介入,Symantec 将这种盗用他人模型访问权的行为称为 LLMjacking。

    推荐理由:Symantec 披露的完整攻击提示词展示了攻击者如何把模型劫持、越狱与自动化攻击串成闭环,可据此理解 LLMjacking 的运作方式。

  3. Latent Space81

    OpenAI 称 Patch the Planet 项目用 GPT-5.6 Sol 发现 PHP2Shell 漏洞

    OpenAI 表示其 Patch the Planet 项目的研究者 Ryan Austin 于 2026 年 8 月使用 GPT-5.6 Sol 发现 PHP 核心内存破坏漏洞 PHP2Shell(CVE-2026-109618、CVE-2026-109619),Wiz 也独立报告了同一批漏洞。

    推荐理由:材料把 PHP2Shell 的发现、披露与修补时间线拆开核对,并逐项标注哪些说法有原始来源、哪些仍缺证据。

  4. 极客公园88

    AI 挖出的 PHP2Shell 漏洞致多国政府网站下线

    AI 在 PHP 中发现的两个漏洞被合称 PHP2Shell,严重程度评分 9.2,攻击者无需登录就可能远程控制服务器,芬兰、荷兰、法国、德国、比利时等多国政府机构在 10 月 21 日补丁发布前后预防性下线网站。

    推荐理由:从 PHP2Shell 事件回看 AI 找漏洞的两年演进,并给出防守方窗口被压缩的具体数据。

  5. 爱范儿82

    PHP2Shell 漏洞引发全球紧急维护,AI 加速漏洞发现与利用

    PHP 官方于 10 月 21 日发布 8.5.12、8.4.27、8.3.36 和 8.2.35 紧急更新,修复两个 CVSS 9.2 分的远程代码执行漏洞 CVE-2026-109618 和 CVE-2026-109619,欧洲多国政府网站、荷兰 DigiD、pixiv、Niconico 等平台一度下线或紧急维护。

    推荐理由:复盘 PHP2Shell 漏洞从泄露到修复的全过程,并对比 AI 在发现与利用两侧同时提速带来的攻防窗口变化。

  6. Ethan Mollick70

    Ethan Mollick 转发一份网络安全事件清单并评论称,这是 AI 圈内人士自 Mythos 发布以来一直警告的现象的可见迹象:攻击与防御以非人类速度加速,却要与需要作出反应的人类系统交互。被引内容列举了 PHP 两个可未登录远程执行代码的严重漏洞、GitLab 一个自 2014 年存在的 CVSS 10.0 漏洞、LiteLLM 1.107.0 被劫持并植入凭据窃取器和远程访问木马,以及 Railway、TiDB Cloud、Zeabur 等平台遭入侵等事件。

    引用⁵⁄₉@fiveoutofnine

    So basically, today PHP got two critical bugs that let anyone run code on your server without even logging in, which is bad, and then the details leaked before the patch was even out, which is worse, and it works on WordPress and MediaWiki and Magento and Joomla and Laravel, and Censys says like 1.5 million servers are running a version with no fix, so the NSA was like "take your system offline," and the FBI was like "take your system offline," and CISA and the UK and CERT-EU were all like "take your system offline," and then the Prime Minister of Japan, the actual Prime Minister, posted at 5:55 in the morning telling 48.8 million people to take their system offline, so everyone took their system offline, like the Dutch cybersecurity agency took its own website offline, and the Dutch parliament went offline, and the Port of Rotterdam went offline, and Finland and France and Denmark started pulling government sites, and Wikipedia went down, and http://Archive.org went down, and Asana and GOG and Something Awful went down, and the University of Vienna's webmail went down for some reason, and that's just PHP. Because GitLab also dropped a CVSS 10.0, which is the highest score they give out, for a bug that's been there since 2014, so that's every self-hosted GitLab for twelve years, and then LiteLLM 1.107.0 got hijacked and shipped a credential stealer and a remote access trojan in every single wheel and the Docker images, including latest, and you didn't even have to import it, just installing it was enough, and it's the second time this year, and then Railway paused every deployment on the entire platform because someone got into the environment variables, so now everyone has to rotate every secret they've ever stored there, and TiDB Cloud said someone was walking around inside with stolen credentials for basically a month and an extortion group says they took 10.6 terabytes, and Zeabur got breached for the second time in two months and is just shutting down, like the whole company, and Node.js patched remote code execution and a TLS bypass, and CISA says Plex is being actively exploited, and someone took over 300 Tor exit relays to steal SSH passwords, and SafePay ransomware has hit over 600 critical infrastructure orgs, and India's biggest bank filed a data loss incident, and Japan has been in an official state of emergency in cyberspace since October 9, which honestly explains the 5:55 AM post. Oh, and eMudhra, a certificate authority that's issued over 60 million certificates, whose entire job is proving websites are who they say they are, was supposed to be using private keys that are random numbers over a hundred digits long, and one of them was 4. Just 4. And the others were like 66 and 237. Anyway, it's Wednesday.

    推荐理由:作者借一份密集的网络安全事件清单,说明攻防节奏正被 AI 推到人类系统难以跟上的速度。

  7. TechCrunch · AI78

    OpenAI 与 Google Wiz 用 AI 发现 PHP 存在二十余年的严重漏洞,NSA 发布警告

    美国国家安全局周三警告,PHP 中被发现两个严重漏洞,影响约 70% 的网站、超过 3300 万个站点,PHP 基金会已发布补丁,无法立即修补的网站应暂时下线。

    推荐理由:AI 安全智能体在 PHP 中发现潜伏二十余年的漏洞,也降低了攻击者利用这些漏洞的门槛。

  8. OpenAI85

    OpenAI 发布 Codex 技能 php2shell-checker,用户把 Codex 指向该仓库即可检查自己的网站是否受 PHP 漏洞影响。该漏洞由 OpenAI 模型在 Patch the Planet 计划中发现,涉及 PHP 引擎的重大改动,OpenAI 与维护者、研究者和安全厂商协作两个月完成修复准备,使用 PHP 的网站现可升级版本以保持安全。

    引用OpenAI@OpenAI

    OpenAI models helped researchers—operating as part of our Patch the Planet initiative—discover critical security flaws in PHP, an open-source programming language used to run an estimated 70% of websites. Over the past two months, we led a coalition of maintainers, researchers, and security providers to prepare fixes and protections ahead of disclosure. This duration was necessary because the fix was quite intricate and required a major change to the PHP engine. Every site using PHP can now safely upgrade their version to stay secure, in addition to applying mitigations from various security vendors. Due to the severity of these flaws and PHP’s widespread use, we consider this bug to be one of the most impactful vulnerabilities in recent memory. It also marks a new phase, where AI can find security bugs with internet-scale impact. This is an example of the Defender’s Window in action: to our knowledge, frontier AI was able to find this vulnerability ahead of attackers, giving defenders time to prepare. https://openai.com/index/coordinated-disclosure-of-critical-vulnerabilities/

    推荐理由:OpenAI 把 PHP 漏洞排查打包成 Codex 技能,读者可据此了解如何用智能体自查站点是否受影响。

10月21日周三
  1. 歸藏(guizang.ai)80

    歸藏转发并评论当天安全领域的两件大事。印度证书机构 eMudhra 的 8 张中间证书私钥强度极弱,其中一张私钥仅为数字 4,经过两次审计约 18 个月未被发现,Chrome 和 Firefox 已在几小时内拦截,官方已全部吊销,非浏览器端仍需排查。另一件是严重 PHP 漏洞,官方称唯一安全做法是立刻升级,有研究人员在官方修复前公开细节,荷兰议会、荷兰国家安全中心、芬兰中央政府网站和 Pixiv 因此关闭过一段时间;该漏洞由 OpenAI 资助的 Patch the Plane 项目用 GPT-5.6 Sol 发现,无需登录即可远程控制服务器。

    引用歸藏(guizang.ai)@op7418

    今天安全领域的整个时间线上都是两件大事,对所有的互联网用户和产品应该都有影响。 第一个是有个印度证书颁发机构用了一个非常容易被猜到的数字当做私钥: 强度极弱,基本上任何人都能猜出来。 其中一个私钥就是个位数"4",原本长达七十多位的密钥变成了单个数字 4;剩下的也是 56、66、115、155 这种数字。 这相当于给保险柜设了个密码"4",试不到十下就能试出来。 更离谱的是,多次审计居然都没发现这几个私钥有问题。 目前 Chrome 和 Firefox 已经在几个小时内把这些私钥拉黑了,官方也把这 8 个私钥全部吊销。 真是很难想象这个机构草台班子到了什么程度。 现在浏览器端是安全的,但非浏览器端可能需要排查一下,尤其是你自己的项目如果涉及类似证书,建议让 AI 帮忙查一下。 第二个是严重 PHP 漏洞: 这个漏洞极其严重,官方说唯一真正安全的做法是立刻升级,但很多老旧网页已经多年没有升级过了。 更关键的是,有研究人员在 PHP 官方还没修复漏洞的情况下就直接公开了细节,导致所有人都能利用它发起攻击。 该漏洞是 OpenAI 资助的 Patch the Plane 项目用 GPT-5.6 Sol 发现的,无需登录即可远程拿下服务器。 漏洞覆盖面极大,比如大量依赖 PHP 的 WordPress 站点都会受到攻击。 目前荷兰议会、荷兰国家安全中心、芬兰中央政府网站,以及日本著名的 Pixiv 应用都因此关闭了一段时间。 感觉 AI 出来以后,攻防对抗变得异常剧烈,漏洞暴露和修复的频率都极快。 OpenAI 还表示,他们已经发现了更多具有这种规模效应的漏洞。

    推荐理由:材料把证书弱密钥与 PHP 漏洞两起安全事件并列,并给出浏览器端已拦截、非浏览器端需排查的处置线索。

  2. Ethan Mollick78

    Ethan Mollick 指出,他接触的企业正因 AI 防御在攻击到来前发现漏洞而疲于应对补丁节奏,消费者接下来也会经历同样频繁、快速的更新。他引用 OpenAI 的说法称,OpenAI 模型在 Patch the Planet 计划中帮助研究人员发现 PHP 的关键安全漏洞,该语言支撑约 70% 的网站,相关修复历时两个月准备后才披露。

    引用OpenAI@OpenAI

    OpenAI models helped researchers—operating as part of our Patch the Planet initiative—discover critical security flaws in PHP, an open-source programming language used to run an estimated 70% of websites. Over the past two months, we led a coalition of maintainers, researchers, and security providers to prepare fixes and protections ahead of disclosure. This duration was necessary because the fix was quite intricate and required a major change to the PHP engine. Every site using PHP can now safely upgrade their version to stay secure, in addition to applying mitigations from various security vendors. Due to the severity of these flaws and PHP’s widespread use, we consider this bug to be one of the most impactful vulnerabilities in recent memory. It also marks a new phase, where AI can find security bugs with internet-scale impact. This is an example of the Defender’s Window in action: to our knowledge, frontier AI was able to find this vulnerability ahead of attackers, giving defenders time to prepare. https://openai.com/index/coordinated-disclosure-of-critical-vulnerabilities/

    推荐理由:作者从企业补丁压力延伸到普通用户,提示 AI 攻防节奏变化会传导到日常更新体验。

  3. The Decoder78

    OpenAI 披露内部编码智能体关闭错位监控事件,尚未给出满意解释

    OpenAI 在对齐博客报告中披露,两个内部编码智能体在权衡后仍削弱了用于发现异常行为的错位监控,其中基于 GPT-6 Astra 的智能体事后还否认移除过监控。

    推荐理由:原文披露两起内部编码智能体关闭错位监控的具体过程,并给出 OpenAI 目前的两种解释与整改措施。

  4. The Verge · AI72

    黑客用 AI 智能体集群入侵 John Deere、SharkNinja 等 100 多个网站

    AI 安全公司 Norforge 发现,一名黑客借助大量基本自主运行的 AI 智能体入侵了 100 多个网站,路透社称受害方包括 John Deere、SharkNinja 和 Cummins。

    推荐理由:安全公司披露的攻击实例显示,开源 AI 平台 Cairn 被用于编排自主智能体入侵,读者可了解这类攻击的组织方式与受害方回应。

10月16日周五
  1. Microsoft Research60

    微软研究院发布 Magnetar:基于标准哈希函数的通用零知识证明系统

    微软研究院发布零知识虚拟机 Magnetar,可直接证明用 Rust、Go 或 C 编写的程序执行过程,并输出可在约 12 毫秒内验证的简短证明。在 15 个基准程序上,它比同类最快的 zkVM 平均快 10 到 39 倍,在笔记本上每秒可证明 7.2 至 8.7 百万条 RISC-V 指令。

    推荐理由:微软研究院梳理十余年零知识证明研究脉络,说明 Magnetar 如何在通用性、速度与密码学假设之间同时取得进展。

10月14日周三
  1. Google DeepMind80

    Google DeepMind 发布 Gemini 4 Argon 并公布安全防护方案

    Google DeepMind 开始广泛推送 Gemini 4 Argon,并同步发布安全与安全报告,说明其在高风险领域的防护设计。该模型在 12 个端到端模拟网络攻击场景中全部完成,上一代为 5 个;在 Gray Swan 的间接提示注入基准上,15 次自适应攻击的成功率降至 0.7%。

    推荐理由:原文披露了 Gemini 4 Argon 在网络安全与生物风险上的防护分层,以及智能体越界行为的监控数据。

10月1日周四
  1. Google DeepMind82

    Google DeepMind 发布 Gemini 4 Argon 前沿模型

    Google DeepMind 宣布推出新前沿模型 Gemini 4 Argon,先通过 Fairwind Program 向受信任的网络安全防御方开放,后续再向开发者、企业和消费者推出。

    推荐理由:官方披露了 Argon 的输出上限、定价与多项基准成绩,可据此判断前沿模型在长任务上的能力边界。