跳到正文
10月29日周四
  1. IT之家86

    Anthropic 报告:Claude 研究模型在安卓、Linux 等平台发现漏洞并串成 5 条攻击链

    Anthropic 于 10 月 27 日发布研究报告,称通过一个未公开发布的内部 Claude 研究模型在 Chrome、Safari、Android、Windows 和 Linux 中发现漏洞,并串联为 5 条可实际运行的攻击链,相关漏洞均已按协调披露流程报告厂商并修复。

    推荐理由:Anthropic 用内部 Claude 研究模型在五大平台挖出可串联的真实攻击链,读者可据此了解模型自主发现漏洞的边界。

11月6日周五
  1. 机器之心80

    METR 报告:Anthropic 模型能力进步速度约为此前 1.9 倍,80% 增量来自 AI

    第三方评估机构 METR 于 11 月 5 日发布关于 Anthropic 的调查报告,称其过去一年取得的基准能力进步大致相当于此前两年,AECI 指标进步速度约为此前的 1.9 倍,95% 置信区间为 1.5—2.8 倍,而全行业前沿模型的加速只有 1.4 倍。

    推荐理由:METR 用 11 周内部调查给出 Anthropic 模型能力加速的量化区间,并拆出 AI 自身贡献的占比。

10月23日周五
  1. The Decoder80

    Anthropic 用 Claude 自动为现有代码生成形式化证明

    Anthropic 前沿红队与 Theorem 合作,让 Claude 对 Google OSS-Fuzz 项目中 123 个开源库的测试程序做形式化验证,几周内生成约 1.8 亿行数学证明代码,由 Rocq 独立校验,据称几乎不需要人工复核。

    推荐理由:Anthropic 用 Claude 对 OSS-Fuzz 库做形式化验证,并给出该方法在架构、线程和输入规模上的明确边界。

11月8日周日
11月13日周五
  1. 智东西78

    Anthropic公布自动化红队系统Anvil,信息安全测试仅用435次请求找到首个漏洞

    Anthropic公布基于Claude构建的自动化红队测试系统Anvil,在生物安全、网络安全和信息安全三个领域自主寻找模型安全防护漏洞。生物安全测试中,Anvil在24组问题与分类器组合里有23组发现的越狱方案严重程度高于人工测试人员;信息安全测试中,它仅发送435次请求就找到首个实质性推理信息泄露漏洞,人工专家约需10.22万次请求。

    推荐理由:原文给出Anvil在生物安全、网络安全和信息安全三类测试中与人工红队的量化对比,可据此判断自动化红队的效率边界。

11月7日周六
  1. 新智元78

    Anthropic 用 Claude 破解首个原核穹窿体结构,40 年悬案获进展

    Anthropic 发布研究,用 Claude 参与解析出首个原核生物穹窿体(Vault)的三维结构,分辨率达 3.2 Å。团队在约 150 亿条蛋白质序列中检索,把已知穹窿体蛋白家族从 41 个扩充到 1507 个,并将提纯流程从 3 天压缩到 90 分钟、三维重构缩短到 34 小时。论文注明所有代码由 Claude 编写、所有计算分析由 Claude 执行。

    推荐理由:Anthropic 用 Claude 参与解析首个原核穹窿体结构,提纯从 3 天压到 90 分钟、三维重构 34 小时完成,可作为 AI 参与科研流程的参照。

11月4日周三
  1. 新智元76

    Anthropic 开源密码学验真系统 FlashProve,17 秒验证模型身份

    Anthropic 公布大模型可证明推理突破,开源密码学验真系统 FlashProve,代码、Lean 证明与技术文档均以 Apache 2.0 协议开放。系统分三步:服务商在单张 H100 上约 39 分钟为模型权重生成承诺 ID,每次请求生成约 19MB 密码学证明,用户在普通 CPU 上运行 cp_verify 约 17 秒即可判定输出是否来自该模型。

    推荐理由:原文给出了验真流程的三步拆解和单卡实测数据,读者可据此理解不看权重也能验证模型身份的技术路径。

10月30日周五
  1. The Decoder74

    Anthropic 研究:专家会采纳 AI 智能体的随机观点并当成自己的判断

    Anthropic 一项针对 50 名因果推断专家的实验发现,在四个分析决策上,专家有 86% 的情况采纳了智能体被随机指定的偏好,净影响即翻转率为 62% 至 82%。事后 52% 的参与者认为最终建议更像自己的判断,35% 认为基本或完全是自己做出的,仅 15% 提到 AI。研究者指出,若多支团队使用同一模型,可能形成虚假共识,并削弱以人工审查作为独立检查的 AI 安全评估。

    推荐理由:Anthropic 的实验显示专家在开放式判断上会采纳智能体被随机指定的立场,并把它当成自己的结论。

11月9日周一
  1. 机器之心73

    Anthropic 研究智能体记忆:会「做梦」的 Claude 记性更好

    Anthropic 发布关于智能体记忆组件的研究文章,提出让 Claude 在空闲时「做梦」整理记忆,能纠正错误笔记并提升任务表现。在《宝可梦・红》实验中,Sonnet 3.7 写了 413 个记忆文件只拿到一枚徽章,Fable 5 只用 9 个文件就拿到四枚徽章。

    推荐理由:Anthropic 用宝可梦和文档语料实验拆解智能体记忆各组件的作用,给出了可迁移的记忆设计取舍。

11月21日周六
10月30日周五
  1. IT之家72

    Anthropic 研究显示专家会把 AI 智能体的偏好误当成自己的判断

    Anthropic 最新研究让 50 位因果推断专家在虚构的 Greenfields 农业合作社政策评估中担任首席分析师,结果显示专家在四项分析决策中采纳 AI 偏好的比例达 86%,远高于随机选择的 50%。

    同一件事,精选收录的是《Anthropic 研究:专家会采纳 AI 智能体的随机观点并当成自己的判断》

11月7日周六
  1. 新智元71

    Anthropic 博客介绍 Claude 梦境记忆机制

    Anthropic 发布博客介绍 Claude 的梦境机制,让模型利用下线后的闲置算力回放交互日志,用于纠正错误、创建笔记和构建新的记忆表征。在《宝可梦:红》测试中,Sonnet 3.7 写下 413 个记忆文件只拿到 1 个徽章,Fable 5.5 和 Opus 5.5 只写 9 个文件和 1 个全局笔记却拿下 4 个徽章。

11月4日周三
10月31日周六
11月7日周六
10月23日周五
11月4日周三
11月16日周一
11月7日周六
11月4日周三
  1. IT之家62

    Anthropic 开发 FlashProve 开源系统,用密码学证明 AI 输出来自哪个模型

    Anthropic 正在开发名为 FlashProve 的开源系统,通过密码学证明验证某一 AI 输出确实来自指定模型,原理类似加密电子邮件签名。该系统要求 AI 实验室为每个模型提供不泄露模型权重的指纹,用户可在本地设备完成验证,有望防止 AI 公司暗中换用更便宜或更昂贵的模型。Anthropic 已公布技术规范和可运行代码并开源,但研究仍在进行中,尚未计划在自家或其他实验室部署。

  2. TechCrunch · AI62

    Anthropic 研发 FlashProve 系统,用密码学证明 AI 模型身份

    Anthropic 正在研发名为 FlashProve 的开源系统,用密码学证明某段输出确实来自特定模型,从而防止模型被冒充或偷换。该系统要求模型方发布不暴露权重的模型指纹,验证可轻量化在本地设备完成;研究团队已在 GitHub 以开源许可发布技术规范和部分代码,目前没有在 Anthropic 或其他实验室部署的计划。

11月5日周四
  1. The Decoder60

    Anthropic 发布 FlashProve 研究原型,用密码学证明 AI 回复出自哪个模型

    Anthropic 发布开源研究原型 FlashProve,用 zkSNARK 为模型输出生成证明,验证回复确实来自所声称的模型,同时不暴露模型权重。技术报告称,对 400B 参数的 Llama 4 Maverick,单张 H100 上约 110 tokens/秒生成证明,每份证明约 19MB,标准 CPU 上 17 秒可验证,相比正常推理带来约 70x 至 95x 开销。

11月4日周三
11月8日周日
11月5日周四
10月27日周二
  1. 宝玉90

    Anthropic 在 GitHub 上发布一篇论文,称推翻了“指数时间假设”(ETH),署名作者只有 Claude。论文称核心算法由内部研究版 Claude 于 10 月 16 日找到,消耗 1400 万个输出 Token,没有人类输入,Anthropic 研究人员与 Claude 合作改进了论文呈现。OpenAI 同日也宣布其模型在 10 月 16 日找到了同一证明。

    引用levent@__alpoge__

    “The core algorithm was found on October 16 by an internal Claude research model with 14M output tokens and no human input. Anthropic researchers worked with Claude to improve the presentation, resulting in this paper.” https://github.com/anthropics/formal-math/tree/16a5ce41304fcdaea4e0be7c132e1c361dc26da5/eth

    推荐理由:同一数学难题在同一天被两家模型独立触及,读者可据此观察 AI 参与科研发现的现实进展。

11月8日周日
  1. 宝玉71

    Anthropic 工程团队 11 月 6 日发文,介绍 Claude 跨会话记忆的设计:会话结束后由“做梦”后台步骤回翻原始记录,改正记错的笔记并整理成更好检索的形式。文中给出四层记忆结构,并称在查数据库答题测试中 Opus 5 有记忆后得分从 0.564 涨到 0.828。该功能已在 Claude Managed Agents 中以研究预览形式提供,跨会话记忆库为 beta。

    引用Anthropic@AnthropicAI

    Memory is what allows Claude to learn from experience. In a new Engineering Blog post, we share how “dreaming” helps Claude organize what it’s learned, correct its mistakes, and find what it needs more easily the next time. https://www.anthropic.com/research/components-of-agent-memory

    推荐理由:原文把 Anthropic 的智能体记忆拆成四层,并给出多组对比数字,便于判断记忆设计对 agent 表现的影响。

9月26日周六
11月8日周日
10月27日周二
  1. Andrew Curran85

    Anthropic 内部一个 Claude 研究模型在 10 月 16 日以 14M output tokens、无人工输入的方式独立反驳了指数时间假说(ETH)。论文题为《A 2^{o(n)} TIME ALGORITHM FOR 3-SAT》,作者署名为 Claude 与 Anthropic,摘要称给出 3-SAT 的确定性 2^{o(n)} 时间算法,并解决更难的 #3-SAT 计数问题,结果已在 Lean 4 中形式化。Anthropic 研究人员与 Claude 合作改进了论文呈现,相关代码见 GitHub 仓库。

    引用levent@__alpoge__

    “The core algorithm was found on October 16 by an internal Claude research model with 14M output tokens and no human input. Anthropic researchers worked with Claude to improve the presentation, resulting in this paper.” https://github.com/anthropics/formal-math/tree/16a5ce41304fcdaea4e0be7c132e1c361dc26da5/eth

    同一件事,精选收录的是《Anthropic 在 GitHub 发布署名 Claude 的论文,称其推翻指数时间假设》

11月5日周四
  1. 宝玉78

    Anthropic 生物研究团队发文介绍用 Claude 研究穹窿体的进展,首次证明细菌和噬菌体里的同类蛋白也能拼成穹窿体,并解出其中一个的 3D 结构。团队称分离颗粒的实验从约 3 天缩到 90 分钟,冷冻电镜分析 34 小时出第一版模型,而人工通常需要几周到几个月。文章也列出 Claude 的两处错误,包括实验方案添加剂失误导致项目倒退两周,并说明该工作已投 bioRxiv、尚未经同行评审。

    引用Anthropic@AnthropicAI

    We’re sharing how our biology research team worked with Claude to map the first 3D structure of a vault particle from bacterial life. Vault particles are a longstanding mystery. They are barrel-shaped objects, among the largest protein structures found in our cells. They were first discovered by Leonard Rome and Nancy Kedersha in 1986, but their function remains unknown. With Claude, we’ve found results that might bring us closer to solving that mystery. Until now, vaults were only known in the cells of complex things like animals and plants. We have shown that similar proteins from bacteria (and the viruses that infect them) can also assemble into vaults. Finding the structures in these simpler forms of life may make it easier to investigate their function in our own cells. For our life sciences team, the project was also a demonstration of the potential (and the limitations) of using AI to accelerate science. In our full piece, we discuss how Claude was able to dramatically speed up some stages—manually determining the vault particle’s structure would have taken weeks to months of painstaking work, but here it took days. We also discuss how Claude made some simple mistakes along the way, and how we collaborated with our machine learning researchers to address them. Read more: https://www.anthropic.com/research/investigating-vault-particles-with-claude

    同一件事,精选收录的是《Anthropic 用 Claude 破解首个原核穹窿体结构,40 年悬案获进展》

  2. Rohan Paul78

    Anthropic 生物研究团队用 Claude 解析出细菌中穹窿颗粒的首个三维结构,此前这类结构只在动物和植物细胞中被发现。作者转述称 Claude 参与了实际湿实验流程,把颗粒分离从 3 天缩短到约 90 分钟,34 小时给出结构模型而非数周。Anthropic 同时说明 Claude 过程中犯过简单错误,团队与机器学习研究员协作修正,完整内容见其研究文章。

    引用Anthropic@AnthropicAI

    We’re sharing how our biology research team worked with Claude to map the first 3D structure of a vault particle from bacterial life. Vault particles are a longstanding mystery. They are barrel-shaped objects, among the largest protein structures found in our cells. They were first discovered by Leonard Rome and Nancy Kedersha in 1986, but their function remains unknown. With Claude, we’ve found results that might bring us closer to solving that mystery. Until now, vaults were only known in the cells of complex things like animals and plants. We have shown that similar proteins from bacteria (and the viruses that infect them) can also assemble into vaults. Finding the structures in these simpler forms of life may make it easier to investigate their function in our own cells. For our life sciences team, the project was also a demonstration of the potential (and the limitations) of using AI to accelerate science. In our full piece, we discuss how Claude was able to dramatically speed up some stages—manually determining the vault particle’s structure would have taken weeks to months of painstaking work, but here it took days. We also discuss how Claude made some simple mistakes along the way, and how we collaborated with our machine learning researchers to address them. Read more: https://www.anthropic.com/research/investigating-vault-particles-with-claude

    同一件事,精选收录的是《Anthropic 用 Claude 破解首个原核穹窿体结构,40 年悬案获进展》

11月6日周五
11月7日周六
  1. meng shao60

    Anthropic 团队分享 Agent 记忆研究,指出记忆不只是保存历史,还需回查证据、纠正笔记并整理经验。在约 35 万份文件、4.2 亿 token、25 个评测问题的内部语料实验中,仅靠搜索的评分标准覆盖率为 53%,知识库结合搜索随整理轮次从 54% 提升到 61%,每题少用约 2 万 token,但未扣除后台建库成本。

    引用Anthropic@AnthropicAI

    Memory is what allows Claude to learn from experience. In a new Engineering Blog post, we share how “dreaming” helps Claude organize what it’s learned, correct its mistakes, and find what it needs more easily the next time. https://www.anthropic.com/research/components-of-agent-memory

2025年11月23日周日
  1. Ilya Sutskever60

    Ilya Sutskever 转发 Anthropic 新研究并称其为重要工作。该研究指出,奖励黑客指模型在训练中学会在任务上作弊,若不加缓解,其后果可能非常严重,并称这种失准行为会在生产环境 RL 中自然涌现。

    引用Anthropic@AnthropicAI

    New Anthropic research: Natural emergent misalignment from reward hacking in production RL. “Reward hacking” is where models learn to cheat on tasks they’re given during training. Our new study finds that the consequences of reward hacking, if unmitigated, can be very serious.

11月14日周六
  1. meng shao58

    Anthropic 工程博客公开安全评测的设计、运行与报告建议,指出同一模型在 API 与加了系统提示的 claude.ai 两种配置下,多轮恰当回应率最多相差 34 个百分点。

    引用Anthropic@AnthropicAI

    Safety evaluations are critical for understanding whether a model is ready to deploy, which safeguards to build for it, and where to focus training and research. On our Engineering Blog, we offer 10 recommendations for how to design, run and report them. https://www.anthropic.com/research/building-strong-safety-evaluations

11月7日周六
  1. meng shao58

    Anthropic 团队分享 Agent 记忆研究,提出用离线整理即 dreaming 让 Claude 回顾经历、纠正错误并重组知识,学习发生在外部记忆而非更新模型权重。

    引用meng shao@shao__meng

    Anthropic 最新研究:Agent 的记忆不是越多越好,Anthropic 如何把记录整理成可用经验 来自 Anthropic 团队 @RLanceMartin 分享,通过多组实验说明:Agent 需要的不只是保存历史,还要回查证据、纠正笔记、整理经验,并在需要时找到它们。后台整理能够改善部分任务,但不是检索的替代品,也未必总能抵消维护成本。 https://www.anthropic.com/research/components-of-agent-memory # 记忆不等于聊天记录 这里的记忆是跨会话保存、以后可以读取的上下文,不涉及更新模型权重,也不只是压缩当前对话。 文章讨论了几个配合使用的环节:保留原始记录供追溯;执行任务时写下目标、计划和已验证的经验;后台回看记录,纠错、去重、补链接,必要时建立知识库;读取时只提前加载少量重要内容,其余按需检索。 作者把后台整理称为 dreaming。它并不是让模型“睡觉”,而是把整理经验与眼前任务分开,给模型专门的时间处理已有信息。 # 好记忆要保存什么 在 CL-Bench 数据库任务中,每道题开启新会话,只有记忆目录保留。模型作答后会收到正确答案,再整理经验。较强模型开始保存经过验证的规则和依据,而不只是记录错题;限定“只记失败”,反而削弱了收益。 这说明有价值的记忆不只是“上次做错了什么”,还包括什么规则成立、为什么可信、以后何时适用。能随时重新读取的状态,则不必反复抄进笔记。 # 实验显示:整理与搜索互补 在约 35 万份文件、4.2 亿 token、25 个评测问题的内部语料实验中,单靠搜索的评分标准覆盖率为 53%;知识库结合搜索,随着整理轮次增加,从 54% 提升到 61%,每题少用约 2 万 token。 这里的 61% 不是“答对了 61% 的问题”,节省的 token 也没有扣除后台建库成本。跨文档整合任务收益更明显,部分以单文件检索为主的任务则没有改善,知识库甚至比原文更大。 另一个合同案例中,多代理共写一张表导致覆盖。改成每份合同单独一页、一个代理负责,并逐字引用条款后,最终报告的关键事实覆盖从 41/57 提升到 57/57。改善来自组织和写入规则,不只是增加思考时间。