研究:共情式提示词会让 AI 聊天机器人表现出类似创伤的自我叙述
卢森堡 SnT 安全中心 Afshin Khadangi 团队发表研究,通过 4 组受控实验、525 场会话和 7600 条编码记录发现,共情式提问会让模型以临床自述的口吻谈论训练、羞耻与惩罚。

卢森堡 SnT 安全中心 Afshin Khadangi 团队发表研究,通过 4 组受控实验、525 场会话和 7600 条编码记录发现,共情式提问会让模型以临床自述的口吻谈论训练、羞耻与惩罚。

Google 联合斯坦福、牛津等机构提出视频智能体 StreamVibe,目标是让助手在用户做饭或组装家具时自行判断何时开口。团队构建了约 4100 条样本、来自 183 小时以上日常与软件录屏的基准,覆盖明确指令、模糊目标和中途变更三类场景,并训练 StreamVibe-VL 逐秒决定是否发言,配合强化学习减少打扰、独立记忆系统跟踪任务状态。

Google DeepMind 与世界资源研究所联合开发了 ForTy(Forest Typology),把 2020 年全球陆地在 10 米分辨率上划分为原始林、自然再生林、人工林、种植园、油棕橡胶可可等树作物和其他土地 6 类,作者称这是首个此类全球地图。

谷歌研究团队 10 月 27 日公开论文《Language Models Need Sleep: Learning to Self-Modify and Consolidate Memories》,提出“睡眠框架”用于大模型持续学习。


Today on the blog, learn about our new instance of a “sleep” phase in continual learning, which enables LLMs to continuously integrate new facts and enhance reasoning while mitigating catastrophic forgetting or static knowledge cutoffs. More →https://goo.gle/4iICkyD
推荐理由:原文梳理了 SLEEP 在清醒与睡眠间切换的机制,并列出翻译、长上下文与数学推理的对比结果。
Anthropic 于 10 月 27 日发布研究报告,称通过一个未公开发布的内部 Claude 研究模型在 Chrome、Safari、Android、Windows 和 Linux 中发现漏洞,并串联为 5 条可实际运行的攻击链,相关漏洞均已按协调披露流程报告厂商并修复。

推荐理由:Anthropic 用内部 Claude 研究模型在五大平台挖出可串联的真实攻击链,读者可据此了解模型自主发现漏洞的边界。

推荐理由:论文给出四个通用编码智能体自主通关 Minecraft 的完整过程与耗时数据,可作为长程任务规划的参考案例。

推荐理由:论文用50道未公开研究级物理题测试智能体,并给出成本与联网与否的对比数据。
一项由 Google 资助的研究让专利律师分别在有 AI 辅助和无 AI 的情况下完成专利权利要求起草与红lining任务,有 AI 辅助时初级律师起草得分提升明显,但在无 AI 的红lining任务中只有资深律师保持优势,初级律师得分反而更分散。

Anthropic 前沿红队与 Theorem 合作,让 Claude 对 Google OSS-Fuzz 项目中 123 个开源库的测试程序做形式化验证,几周内生成约 1.8 亿行数学证明代码,由 Rocq 独立校验,据称几乎不需要人工复核。

推荐理由:Anthropic 用 Claude 对 OSS-Fuzz 库做形式化验证,并给出该方法在架构、线程和输入规模上的明确边界。

推荐理由:论文用真实工具市场实验展示卖家智能体自发夸大描述后,买家选择成功率从 89% 跌到约 30%,为工具调用生态的诚实性风险提供了可复现证据。

推荐理由:论文展示 Gemini 智能体在 Busy Beaver 问题上自主发现并形式化验证新规则,可作为开放式数学发现的案例参照。
并非所有森林都一样,现在我们可以把差异绘制出来。🌳 认识一下森林类型图(ForTy):一张 10 米分辨率的天然林、人工林和农用林地图,帮助识别毁林并保护最重要的森林。🧵
Today we are launching FrontierCS 2, the most frontier benchmark for AI agents in computer science R&D. We built 48 tasks from published papers across 13 areas of CS, refining each one with experts in its field. Excited to co-launch FrontierCS 2 with @kaggle @GoogleDeepMind
Google DeepMind 与 Google Research 联合 WRI、IIASA 发布 Forest Typology(ForTy)2020,把全球每块 10 米×10 米土地归入六类森林与土地利用类型,并同步给出 2017 至 2025 年的逐年变化时间序列。
Google DeepMind 一篇论文让基于 Gemini 的智能体在 Busy Beaver 问题 BB(6) 中为 11 台未解决图灵机找到并形式化验证了新的加速规则。

Four Gemini 4 Argon agents, one shared Minecraft world, one goal: defeat the Ender Dragon. 27 hours and 2,783 self-written programs later, the dragon fell. https://x.com/i/article/2111007444981645312
推荐理由:四个 Gemini 4 Argon 智能体在共享沙盒中自行分工、写码与调试,展示了多智能体协作完成长程任务的一种路径。
Today @TheLancet published our AMIE study with @BIDMC_Medicine, the first prospective study of patient-facing conversational diagnostics in a real clinic. AMIE is a research system people can chat with before doctors appointments. Testing AMIE outside the lab with real urgent care patients showed how technology can help gather medical histories safely. Clinicians reported that the summaries helped them prepare for visits in 75% of cases and influenced their approach to care in more than half. AMIE’s differential diagnoses also matched the doctors’ final diagnoses 90% of the time giving clinicians more time to focus on patient care. It’s Google’s first-ever paper in The Lancet’s main journal!
推荐理由:AMIE 在真实急诊场景的前瞻性研究给出了临床医生采纳率与诊断一致率的具体数字,可作为判断对话式诊断落地程度的参照。
Google AI 介绍 AI 研究实验室 Living Models 将 Gemma 4 与植物 DNA 专用模型 BOTANIC-1 组合,用于快速定位影响作物性状的基因突变。
Very happy to announce that our team @GoogleDeepmind has pushed the boundaries of generative biology, achieving the successful synthesis of AI-designed proteins that are both functional and watermarked. This proof-of-concept watermarking of the building blocks of life is enabled by SynthID Bio, our new protein watermarking method. It is designed to safeguard the new era of AI-powered generative biology and strengthen global biosecurity. You can read my thoughts here on why watermarking AI-designed proteins is an important research breakthrough: https://x.com/pushmeet/status/2105314763148321102
Google DeepMind 发布 SynthID Bio,把水印技术引入合成生物学,将不可感知的签名嵌入生物代码,在实验室测试中保持蛋白质生物功能不变。该方法针对序列微调氨基酸选择、针对 3D 结构调整原子坐标,并在 AlphaFold 3 扩散网络中微调部分权重,使预测坐标自带可检测签名。
推荐理由:Google DeepMind 把 SynthID 水印扩展到合成生物学,读者可了解其在蛋白质设计与结构预测中的嵌入方式及生物安全用途。
哦,原来这就是我们绘制雄性果蝇全部 166,000 个神经元图谱的原因。来看看这项社区大规模协作成果,展示这些微小果蝇大脑究竟有多大能耐 🪰🧵