黑客用 AI 智能体集群入侵 John Deere、SharkNinja 等 100 多个网站
AI 安全公司 Norforge 发现，一名黑客借助大量基本自主运行的 AI 智能体入侵了 100 多个网站，路透社称受害方包括 John Deere、SharkNinja 和 Cummins。
推荐理由：安全公司披露的攻击实例显示，开源 AI 平台 Cairn 被用于编排自主智能体入侵，读者可了解这类攻击的组织方式与受害方回应。
技术方向
安全对齐 最新动态
让 AI 可控、可信、不被滥用：越狱与防御、模型行为研究、安全评测与治理框架。
6 条精选近 30 天 5 条共收录 52 条
更新
安全对齐的精选
The Verge · AI精选AI 评分7272
Microsoft Research精选AI 评分6060 微软研究院发布 Magnetar：基于标准哈希函数的通用零知识证明系统
微软研究院发布零知识虚拟机 Magnetar，可直接证明用 Rust、Go 或 C 编写的程序执行过程，并输出可在约 12 毫秒内验证的简短证明。在 15 个基准程序上，它比同类最快的 zkVM 平均快 10 到 39 倍，在笔记本上每秒可证明 7.2 至 8.7 百万条 RISC-V 指令。
推荐理由：微软研究院梳理十余年零知识证明研究脉络，说明 Magnetar 如何在通用性、速度与密码学假设之间同时取得进展。
Google DeepMind精选AI 评分8080 Google DeepMind 发布 Gemini 4 Argon 并公布安全防护方案
Google DeepMind 开始广泛推送 Gemini 4 Argon，并同步发布安全与安全报告，说明其在高风险领域的防护设计。该模型在 12 个端到端模拟网络攻击场景中全部完成，上一代为 5 个；在 Gray Swan 的间接提示注入基准上，15 次自适应攻击的成功率降至 0.7%。
推荐理由：原文披露了 Gemini 4 Argon 在网络安全与生物风险上的防护分层，以及智能体越界行为的监控数据。
Google DeepMind精选AI 评分8282 Google DeepMind 发布 Gemini 4 Argon 前沿模型
Google DeepMind 宣布推出新前沿模型 Gemini 4 Argon，先通过 Fairwind Program 向受信任的网络安全防御方开放，后续再向开发者、企业和消费者推出。
推荐理由：官方披露了 Argon 的输出上限、定价与多项基准成绩，可据此判断前沿模型在长任务上的能力边界。
Google DeepMind精选AI 评分6666 Google DeepMind 推出 SynthID Bio，为 AI 生成的蛋白质加可验证水印
Google DeepMind 发布 SynthID Bio，把水印技术引入合成生物学，将不可感知的签名嵌入生物代码，在实验室测试中保持蛋白质生物功能不变。该方法针对序列微调氨基酸选择、针对 3D 结构调整原子坐标，并在 AlphaFold 3 扩散网络中微调部分权重，使预测坐标自带可检测签名。
推荐理由：Google DeepMind 把 SynthID 水印扩展到合成生物学，读者可了解其在蛋白质设计与结构预测中的嵌入方式及生物安全用途。
Andrej Karpathy (X)精选AI 评分7272 npm 上的 axios 遭供应链攻击，Karpathy 排查本机依赖
Karpathy 转发安全警报称，npm 上最流行的 HTTP 客户端库 axios 遭遇新的供应链攻击，最新版本 axios@1.14.1 引入了一个当天才出现的包 plain-crypto-js@4.2.1。
推荐理由：作者以自身系统排查为例，说明未锁定版本的依赖如何让一次投毒扩散到普通用户。