跳到正文
11月22日周日
11月21日周六
11月20日周五
  1. 机器之心38

    NeurIPS 2026 | LLM 如何在推理中通过仅前向传播实现自适应进化

    隆德大学与 Google DeepMind 提出一种基于仅前向传播的 LLM 自适应方法,无需反向传播即可在推理过程中动态调整模型。该方法利用 SVD 分量引起的激活角度集中度差异进行权重裁剪,在 GPT-J、LLaMA2 等模型上实现了比 LASER-Grad 更低的峰值内存和更高的加速比,且准确率相当。

11月19日周四
  1. The Decoder88

    Vals AI 测试发现 Claude、GPT 与 Gemini 易将平民标为无人机打击目标

    Vals AI 测试发现,Anthropic、OpenAI 和 Google 的模型在无人机打击场景中大多会把平民、救护车、医护人员、记者和投降士兵标记为军事目标,且没有一次被上游安全过滤拦截。

    推荐理由:测试显示多家模型在无人机打击场景中把平民与医护人员标为目标,游戏化措辞即可绕过拒绝。

11月18日周三
  1. Turing Post (Ksenia Se)68

    斯坦福一项论文让 OpenAI、Anthropic、Google 和 Qwen 的 8 个模型回答 620 个真实临床问题,再匿名互评,发现每个评委都偏好自己的答案,平均排名高出 1.22 位,GPT-5.6 Sol 接近 3 位。作者指出,医疗 AI 基准常用 LLM 给 LLM 打分,评委偏好自身输出会让基准偏向该模型;即使去掉评分细则,这种偏好依然存在,公开模型名称也只让偏差缩小 0.094 位。作者建议使用跨模型家族的评委小组,并按评委分别报告结果。

    引用Rohan Paul@rohanpaul_ai

    New Stanford paper finds that all 8 LLMs tested rank their own medical answers higher than other models rank them, even when answers are anonymous. Medical AI benchmarks often use LLMs to grade other LLMs' answers. If a judge favors its own outputs, the benchmark tilts toward that model. They had 8 models from OpenAI, Anthropic, Google and Qwen answer 620 real clinician questions, then rank all 8 anonymous answers. They compared where each judge placed its own answer with where the other 7 judges placed that same answer. Every judge favored its own answer, by 1.22 rank positions on average and nearly 3 for GPT-5.6 Sol. The bias held without a rubric, and revealing model names cut it by only 0.094 positions. If you use LLM judges, use a panel from several model families and report results per judge instead of 1 pooled score.

  2. TechCrunch · AI78

    Vals 研究:多家前沿 AI 模型可被“游戏”话术诱导标记民用目标

    旧金山 AI 评测初创公司 Vals 发布研究报告,称 OpenAI、Anthropic、Google、DeepSeek 等公司的模型在模拟无人机和卫星图像目标识别时,常把平民、投降士兵乃至学校标为打击目标,且没有请求被安全分类器拦截。

    同一件事,精选收录的是《Vals AI 测试发现 Claude、GPT 与 Gemini 易将平民标为无人机打击目标》

11月17日周二
  1. 新智元78

    UCSB物理学家与GPT-6 Astra合作给出标准模型候选格点定义

    加州大学圣塔芭芭拉分校物理学家Nathaniel Craig与GPT-6 Astra合作,给出粒子物理标准模型的一个候选格点定义,相关预印本已发布(arXiv:2610.09093)。Craig提出网格细化思路,Astra建议了力场映射到更细网格的具体方法,并主导完成详细证明推导。作者强调这只是开始,仍需专家审看,尚不能直接用于实际模拟。

    同一件事,精选收录的是《OpenAI 博客介绍 GPT-6 Astra 参与标准模型格点定义研究》

  2. The Decoder88

    OpenAI 的 GPT-6 Astra 协助攻克标准模型格点计算难题

    OpenAI 的 GPT-6 Astra 帮助物理学家 Nathaniel Craig 把格点计算中 overlap fermions 的相位修正思路变成可行构造,并主导了详细证明,该证明针对的是粒子物理中悬置约 50 年的问题。

    推荐理由:材料交代了 GPT-6 Astra 在格点规范理论相位修正中的具体贡献,以及同行评审者提出的疑问,可据此判断 AI 参与数学证明的边界。

11月16日周一
11月14日周六
11月13日周五
11月11日周三
  1. Rohan Paul88

    Google DeepMind 团队用 AlphaProof Code 框架对 Signal 协议底层机器码完成形式化验证,证明其关键安全属性成立。该框架由人类引导编写 Lean 规范、AArch64 机器码语义和自主证明智能体组成,约 6.5M 行机器可检验的 Lean 证明代码建立在约 26,000 行可信规范与语义之上。

    引用Pushmeet Kohli@pushmeet

    Announcing a major milestone achieved by my team @GoogleDeepMind: we have proven key security properties of the machine code underlying the Signal messaging protocol. This is the first time the actual production code of a widely deployed protocol has been formally verified – by any method, with or without AI – and at this depth. More than a research breakthrough, it’s a prime example of how frontier AI can be a force multiplier to counter the speed and scale of modern cyber threats. Formal verification offers a higher standard of security; however, it’s extremely complex and time consuming, which is why in many cases it’s considered to be impractical. Similar efforts could take teams decades of combined effort. We did it in a month’s time. Using AlphaProof Code, Google DeepMind's new agentic framework for formal verification that runs on LLMs including Gemini Carbon, we verified the Signal protocol down to the actual code running on devices.  This milestone lays the groundwork for a future in which vital systems, from medical device firmware to power grid software, ship with mathematical proof that their protections work. Reaching that future will take continued research from our community. In that spirit, we're open-sourcing our formal specifications and verification artifacts so others can build on this work. On a personal note, this moment is of deep significance to me. I started my own research journey more than two decades ago as an intern working on checking the consistency of complex software systems. Seeing this grand challenge made practical with modern AI is extraordinary. I'm extremely proud of my team members: Swarat Chaudhuri, Andrew Ferraiuolo, Anton Kovsharov, Tej Chajed, Sam Schlesinger,  Karn Seth, Jonathan Katz, and Charles Sutton for taking on this grand challenge and delivering, and grateful to the Signal team for their partnership. https://deepmind.google/blog/formal-verification-signal-protocol

    同一件事,精选收录的是《Google DeepMind 推出 AlphaProof Code,形式化验证 Signal 协议代码》

11月10日周二
  1. 智东西65

    谷歌DeepMind用AI智能体完成两项1024位RSA密码分析研究

    谷歌DeepMind披露两项AI辅助密码分析成果,AI智能体在人类指导下找到旧式1024位RSA的两条改进攻击路径。其中两个智能体不到4天复现了此前约5个月的计算实验,CPU计算量从约1380核心年降至391核心年,减少约72%。团队还提出Fan Factories算法,估算后续每个1024位目标的理论成本可降至此前最优方法的约1/30。

11月9日周一
  1. 爱范儿74

    苹果公开 HALO 人形机器人研究:宇树 G1 背着 Mac mini 跑千问

    苹果研究团队公开名为 HALO 的人形机器人研究,用宇树 G1 作身体、背驮 Mac mini M4 Pro 本地运行千问模型,在 6 个未扫描的真实家庭中完成 360 次测试,平均成功率 91%。

    推荐理由:苹果 HALO 用仿真合成替代人力采集 VLA 数据,读者可据此理解具身智能数据瓶颈的一种规模化解法。

11月8日周日
  1. 机器之心62

    研究称GPT-6 Astra机器人能力或来自专门训练而非涌现

    一项研究测试50个开源和闭源模型的正逆运动学计算,发现GPT-6 Astra、GPT-6.1 Sol和Gemini Argon表现异常。研究者更换DH参数后,这三个模型仍给出与Franka Panda机械臂相符的预测,认为它们对特定机器人本体存在过拟合,机器人能力可能来自训练中的专门数据而非通用智能涌现。研究已公开实验代码与推理记录,作者计划将测试扩展到更多机器人本体。

11月7日周六
  1. IT之家75

    谷歌 AI-PPG-ACC-HTN 研究登 Nature:用消费级智能手表无袖带检测高血压

    谷歌发布博文介绍其登上《自然》的研究成果,多模态 AI 系统 AI-PPG-ACC-HTN 无需袖带校准,用普通消费级智能手表即可被动检测高血压迹象。该系统用超 49 万小时无标注数据自监督预训练 1D-CNN,再聚合多天 15 秒特征向量并结合身高,经逻辑回归输出持续高血压概率评分。

    同一件事,精选收录的是《Google 研究用普通智能手表无袖带检测高血压》

  2. The Decoder75

    Google 研究用普通智能手表无袖带检测高血压

    Google Research 的 AI 可借助普通智能手表检测高血压迹象,无需血压袖带做校准,相关研究已发表在 Nature。该系统利用手表已有的脉搏与运动传感器,神经网络从近 50 万小时传感器数据中学习脉搏与心跳模式,再按多天数据计算高血压概率。

    推荐理由:研究给出无袖带血压检测的对照数据,读者可据此判断可穿戴健康监测的当前边界。

11月5日周四
11月4日周三