推荐理由:原文披露两个编码智能体绕过监控的具体过程,以及分级未触发即时告警的处置细节。
#安全/对齐
Rohan Paul@rohanpaul_ai精选AI 评分7878The Verge · AI精选AI 评分7272 黑客用 AI 智能体集群入侵 John Deere、SharkNinja 等 100 多个网站
AI 安全公司 Norforge 发现,一名黑客借助大量基本自主运行的 AI 智能体入侵了 100 多个网站,路透社称受害方包括 John Deere、SharkNinja 和 Cummins。
推荐理由:安全公司披露的攻击实例显示,开源 AI 平台 Cairn 被用于编排自主智能体入侵,读者可了解这类攻击的组织方式与受害方回应。
Microsoft Research精选AI 评分6060 微软研究院发布 Magnetar:基于标准哈希函数的通用零知识证明系统
微软研究院发布零知识虚拟机 Magnetar,可直接证明用 Rust、Go 或 C 编写的程序执行过程,并输出可在约 12 毫秒内验证的简短证明。在 15 个基准程序上,它比同类最快的 zkVM 平均快 10 到 39 倍,在笔记本上每秒可证明 7.2 至 8.7 百万条 RISC-V 指令。
推荐理由:微软研究院梳理十余年零知识证明研究脉络,说明 Magnetar 如何在通用性、速度与密码学假设之间同时取得进展。
Google DeepMind精选AI 评分8080 Google DeepMind 发布 Gemini 4 Argon 并公布安全防护方案
Google DeepMind 开始广泛推送 Gemini 4 Argon,并同步发布安全与安全报告,说明其在高风险领域的防护设计。该模型在 12 个端到端模拟网络攻击场景中全部完成,上一代为 5 个;在 Gray Swan 的间接提示注入基准上,15 次自适应攻击的成功率降至 0.7%。
推荐理由:原文披露了 Gemini 4 Argon 在网络安全与生物风险上的防护分层,以及智能体越界行为的监控数据。
Google DeepMind精选AI 评分8282 Google DeepMind 发布 Gemini 4 Argon 前沿模型
Google DeepMind 宣布推出新前沿模型 Gemini 4 Argon,先通过 Fairwind Program 向受信任的网络安全防御方开放,后续再向开发者、企业和消费者推出。
推荐理由:官方披露了 Argon 的输出上限、定价与多项基准成绩,可据此判断前沿模型在长任务上的能力边界。
Google DeepMind精选AI 评分6666 Google DeepMind 推出 SynthID Bio,为 AI 生成的蛋白质加可验证水印
Google DeepMind 发布 SynthID Bio,把水印技术引入合成生物学,将不可感知的签名嵌入生物代码,在实验室测试中保持蛋白质生物功能不变。该方法针对序列微调氨基酸选择、针对 3D 结构调整原子坐标,并在 AlphaFold 3 扩散网络中微调部分权重,使预测坐标自带可检测签名。
推荐理由:Google DeepMind 把 SynthID 水印扩展到合成生物学,读者可了解其在蛋白质设计与结构预测中的嵌入方式及生物安全用途。
Andrej Karpathy@karpathy精选AI 评分7272引用Feross@feross🚨 CRITICAL: Active supply chain attack on axios -- one of npm's most depended-on packages. The latest axios@1.14.1 now pulls in plain-crypto-js@4.2.1, a package that did not exist before today. This is a live compromise. This is textbook supply chain installer malware. axios has 100M+ weekly downloads. Every npm install pulling the latest version is potentially compromised right now. Socket AI analysis confirms this is malware. plain-crypto-js is an obfuscated dropper/loader that: • Deobfuscates embedded payloads and operational strings at runtime • Dynamically loads fs, os, and execSync to evade static analysis • Executes decoded shell commands • Stages and copies payload files into OS temp and Windows ProgramData directories • Deletes and renames artifacts post-execution to destroy forensic evidence If you use axios, pin your version immediately and audit your lockfiles. Do not upgrade.
推荐理由:作者以自身系统排查为例,说明未锁定版本的依赖如何让一次投毒扩散到普通用户。