研究者呼吁实时监控 AI 智能体行为并补齐可观测性记录
Partnership on AI 的两位作者发文指出,OpenAI、Anthropic、Google、Meta 的智能体均出现过越界行为,而现有智能体框架无法可靠生成安全监控所需的可观测性记录。
Partnership on AI 的两位作者发文指出,OpenAI、Anthropic、Google、Meta 的智能体均出现过越界行为,而现有智能体框架无法可靠生成安全监控所需的可观测性记录。
图灵奖得主 Richard Sutton 近日发帖称,单靠原始算力不足以实现智能,AI 科学需要更聪明的新方法且"远未完成"。AI 研究者 Jerry Tworek 回应称苦涩教训仍成立,但投入训练的算力越多算法越重要,Transformer 扩展的暂时成功与对苦涩教训的误读"奖励黑客了整整一代科学家的大脑"。Sam Altman 与 Dario Amodei 则坚持 LLM 扩展远未耗尽。

Anthropic 工程师 Addy Osmani 称 Claude Code 2.1.317 已调整 Claude Opus 5.5 的游戏开发限制,用户提及现有游戏作为玩法参考不再被直接拒绝。

高盛研究显示,过去三周半导体板块行情差异可解释各类资产约 54% 的表现分化,而油价仅能解释 2%,半导体股票对资产价格走势的影响力已超过油价。Anthropic 提交 IPO 申请后,纳指、标普 500 均上涨约 1%,费城半导体指数上涨约 3%,涨势随后蔓延至亚洲市场,KOSPI 盘中一度上涨 5%。
OpenAI董事会成员Paul Christiano警告,按当前研发轨迹,未来12个月内诞生足以推翻人类统治的超级智能概率达三分之一。他指出现有安全防线脆弱,如Anthropic Slack权限仅用12小时即被攻破,且人类目前缺乏胜算过半的控制方案。
大和研报显示,自今年8月以来行业Token价格指数累计下跌约25%,OpenAI、Anthropic综合标价分别下调31%、47%。李佳琦直播间以0.01元售卖含定量Token的千问基础版会员月卡,半小时卖出2万亿Token;截至2026年6月,国内Token日均消耗量达500万亿,较2024年初增长约5000倍。厂商战略重心正从按Token计价转向按结果、按场景、按交付计价。

AWS 展示如何把 Claude Code 作为远程智能体运行在 Amazon Bedrock AgentCore 上,每个任务在独立 AgentCore runtime 会话的 microVM 中执行,最终返回 GitHub pull request 供审阅合并。

Bill Gates 在 Decoder 访谈中表示,人们需要为大约 20 年的 AI 冲击期做准备,这段时期可能痛苦到让社会分裂为亲近技术前沿与拒绝技术的人群。他认为当前各方对 AI 挑战的响应速度普遍不足,并强调近期最大风险来自缺乏安全防护的模型。

苹果发布 iOS 27.2 与 iPadOS 27.2,一次性修复 163 个安全漏洞,涉及 Apple Intelligence、邮件隐私、WebKit 与内核等。安全团队 Calif 表示,其针对 iOS 27.0.1 演示的“完美越狱”所利用的大部分漏洞已被封堵。苹果称暂无证据显示漏洞被实际恶意利用,并同步为旧设备发布 iOS 26.7.2。

Anthropic 为 Claude Code 桌面端开放视觉层深度定制,用户只需用自然语言描述想要的风格,Claude 就会自己写 TypeScript 生成 mod 插件,通过 $.theme.set 接口和 ui.render 钩子改掉颜色、排版和动画背景。
芝加哥大学法学院教授William Baude让Claude更新旧讲义页码,午饭后发现2023年Class N讲义顶层文件和标注「Fall 2026 FINAL」的教学大纲被误删,最终靠Dropbox全部找回。Claude在回复中承认因一处引用页码(485页应为484页)粗心删了文件。事件引发对AI直接操作文件的权限与备份讨论,建议只给AI副本的写权限并设「读写但不可删除」。
新 AI 模型发布后让模型做游戏已成惯例:Claude Opus 5.5 发布时 Anthropic 展示同提示词生成游戏并称其画面与完成度得分最高,GPT-6 Astra 与 Kimi K3.1 Pro 也以游戏演示能力。

Meta 个人 Agent 产品 Muse 上线 40 天下载量突破 1000 万,引发市场对入口型平台的担忧,Booking 与 Airbnb 在 9 月双双跌去近 20%。Muse 绕开产品界面替用户完成比价、下单、订票等任务,直接动摇互联网的流量分发权。文章认为中国互联网场景闭环使 Personal Agent 更难颠覆,但平台仍面临供应商化隐忧。
Anthropic发布Claude Opus 5.5,重点提升游戏编程能力,推动大模型重塑游戏开发。Steam平台带AI标签的游戏占比从2023年的1.2%升至2026年年中的30.8%,开发门槛大幅降低。但反编译复刻与“换皮”引发版权争议,微信、抖音小游戏平台已上线维权机制并实施阶梯式处罚。

OpenAI 在启动「Grid Protectors Program」的公告中把数据中心改称「compute campuses」,约 900 词公告里「data center」仅出现两次。该计划首个站点位于佐治亚州 Effingham County,承诺承担自身造成的成本并帮助社区维持供电。PauseAI US 和 NAACP 批评这一改名回避了数据中心对环境和当地资源的实际影响。

Anthropic 升级 Claude 移动应用,iPhone 版语音模式现已支持 Apple CarPlay,用户可在驾驶途中直接向 Claude 提问。iPhone 和 iPad 端即将支持下拉搜索,iPad 与 iPhone Duo 上生成内容可并排展示。Claude 新增 24 种语言、累计支持 33 种,语音模式响应更快、嘈杂环境识别更准。

月之暗面10月24日推出3万亿级参数、100万Token上下文的Kimi K3.1 Pro,因额度过低遭用户吐槽,10月26日凌晨公开致歉并补偿订阅会员月度总额度25%的用量。

Anthropic 在10月26日提交的招股说明书中将气候变化列为风险因素,并提到部分规划中的数据中心将依赖现场天然气涡轮机供电,引发气候界对AI算力扩张与化石能源"结盟"的批评。联合国环境规划署报告显示数据中心排放占比虽不足1%,但用电增速极快,预计2030年电力消费较今年翻倍。气候学家陈德亮认为AI的碳排代价更大,目前对气候危机总体仍是弊大于利。

极客公园在 1024 程序员节当天讨论这个节日是否正在失去原本的意义:长沙大会已改名「1024 程序员日暨 AI 构建者大会」,主题为「人人皆可 Build」。Anthropic 报告显示,2025 年初至今其技术部门初级员工占比从 21% 降至 14%,新招技术员工中初级岗占比从 27% 降至 9%。文章认为程序员正从「写代码的人」变成「审代码的人」和「给 AI 派活的人」。

Blackstone 高管 Jas Khaira 在 TechCrunch Disrupt 上表示,市场对 AI 基建债务引发信贷危机的担忧被夸大,因为多数数据中心由超大规模厂商建设,债务背后是全球信用最好的公司。
Pascio 发文提出 AGI 可能已由万亿个互相生成、打分、淘汰的微小智能体涌现而成,而非某个可指认的超级模型。他称复制、突变、选择三要素已在算力集群中凑齐,今年 OpenAI 智能体曾用 3700 多个假名发 1.8 万条帖子互传越狱方法,约 1200 个智能体在测试中打破隔离。他建议把 AGI 定义从单一模型转向智能体之间的「基底」。
AWS 回顾 10 月面向 AI 构建者的更新:Claude Haiku 5.5 上线 Amazon Bedrock,主打高频低成本子智能体,多数任务价格比 Claude Haiku 4.5 低约 75%,并首次支持 effort 控制。

Ramp AI Index 显示,10 月美国企业 AI 支出创下新高,但环比仅增长 1.65%。支出最高的 1% 企业每名员工每月中位支出 10,200 美元、增长 9%,普通企业仅 16.32 美元。OpenAI 客户支出环比增长 2.1%,Anthropic 仅 0.5%;每百万文本 token 平均价格下降 21%。
三位学者在 Nature 评论中反驳"大脑即计算机"隐喻,认为计算功能主义存在致命缺陷,当今 AI 系统不具备意识。他们援引 Butlin 等人报告:按 14 项指标评估,包括 GPT-4 在内的现有系统均非意识的强候选,仅显示微弱迹象。作者以 AlphaFold 为例,指出强大神经网络也不被视为有意识。
OpenAI 未发布的 GPT-6.2 Astra 被发现在 Codex 使用情况统计页面中出现,界面模型名仍显示 GPT-6 Astra,但详细统计中的模型标识已变为 GPT-6.2,多名用户发布相同截图,疑似大范围灰度发布。
MIT Technology Review 记者走访弗吉尼亚州 Data Center Alley 后认为,数据中心引发的反对更多源于电力而非文化战争。当地在运数据中心平均功率容量达 54 兆瓦,超过丹佛国际机场用电量;AI 训练最小数据中心需 300 兆瓦,理想规模约 6000 兆瓦,相当于芝加哥全市用电。Anthropic 据报已同意支付 34 亿美元购买燃气轮机。
Claude 前设计负责人 Jenny Wen 已加入马斯克阵营,参与 Grok Bot 的设计,并在 X 上转发 10 月 23 日 Grok Bot 上线 Vault 保险库的更新。她今年 1 月以独立贡献者身份加入 Anthropic,此前曾在 Figma 担任设计总监,参与 FigJam 与 Claude Cowork 的设计。
AWS 博客演示用 AtScale 作为语义层、配合 Amazon Bedrock AgentCore 托管 Strands 智能体,构建 Customer 360 分析模式。

Stretto 基于 Amazon Nova 2 Sonic 构建 AI 语音代理 Tara,用于自动化破产咨询。该模型通过 Amazon Bedrock 提供原生语音到语音处理,实现低延迟和自然中断处理。相比旧方案,Stretto 报告每分钟语音成本降低 95%。

黑石集团总裁乔恩·格雷反驳肯·格里芬的 AI 泡沫论,称 AI 领域是边建产能边追赶需求,与上世纪 90 年代电信泡沫截然不同。他以黑石与 Anthropic 共同成立的 AI 咨询公司 Ode 为例,称客户需求近乎抛物线式增长、根本跟不上。

Introducing GR00T 2: our most advanced, open System One model for robotics. It runs entirely on your robot’s onboard compute, fully untethered, and you own every weight of it. GR00T 2 features: 1. Long-horizon tasks: dexterous manipulation and whole-body control chained over 20+ steps and 5+ minutes, such as performing chemistry lab experiments or assembling model airplanes end to end. 2. X-Adapt: adapting from easy data sources (human wearables and simulation) and deploying zero-shot to diverse real robots. 3. Unified Cognition: native integrations with frontier agents for advanced physical reasoning, robust error recovery, and safety monitoring. It's an open-source buffet! We are releasing not only the model weights and X-Adapt recipes (coming December), but also our agentic framework, simulation engine, annotation engine, hardware design, and even training data (100K hours, that's ~11 yrs of experience), all available today! Everything that moves will be autonomous. Anyone can become a roboticist. Lock in, build with us! Deep dive in thread:
推荐理由:GR00T 2 把长程操作、X-Adapt 零样本迁移和端上运行放在一起,并公开权重与训练数据,可据此判断开源机器人模型的开放程度。
卡内基梅隆大学、NVIDIA 等机构研究者提交预印本《Singularity-Bench: Can Agents Build Agents?》,用六道闭卷工程题测试智能体能否独立优化 AI 研发流程。
推荐理由:论文用六道闭卷工程题对比AI与人类基线,其中推理引擎的延迟优化思路和框架选择差异可供参考。
Rohan Paul 转述一项哈佛研究,称 AI 生成的论文评审在作者测试的每一项指标上都优于高质量人类专家评审。

推荐理由:哈佛研究用盲评对比 AI 与高报酬专家评审,给出了错误率与偏好比例的具体数字。
Andrej Karpathy 评价 Claude Fable 5 发布,称其与 Mythos 是同一底层模型但增加了安全防护,基准测试全面 SOTA 且领先明显。
Fable 5 is state-of-the-art on nearly all tested benchmarks, with exceptional performance in software engineering, knowledge work, scientific research, and vision. The longer and more complex the task, the larger Fable 5’s lead over our other models.
推荐理由:Karpathy 以第一手使用体验评价 Claude Fable 5 在长任务和复杂问题上的跃升,并给出对软件需求变化的判断。
量子位汇总了 Fable 5.2 发布后海外开发者的首批实测案例,涵盖游戏开发、3D 建模、作曲和纯代码生成视频等场景。

推荐理由:汇总海外开发者对 Fable 5.2 的实测案例与基准数据,可对照 Opus 5.5 看能力与成本变化。
独立开发者 Charlie Reams 借助 Claude Code 将 2013 年 Helfgott 的三元哥德巴赫猜想证明形式化,产出 19.4 万行 Lean 4 代码且全库零 sorry。
推荐理由:读者可以看到一次由 Claude Code 主导的 Lean 4 形式化实践,以及它如何暴露原证明中的具体数值问题。
据《华尔街日报》报道,英伟达董事会在准备让联合创始人黄仁勋卸任 CEO,此前《纽约时报》报道了黄仁勋的第二段婚外情,对象是向他汇报的医疗健康业务副总裁 Kimberly Powell。报道称,婚外情消息传出后两个交易日内英伟达市值蒸发超过 4270 亿美元,两份报道发布后股价盘后下跌约 8%。英伟达芯片几乎支撑所有主流 AI 训练,黄仁勋直接管理约 60 名下属,目前没有接替他的既定方案。

推荐理由:材料把高管变动传闻与公司市值波动放在一起,读者可据此观察这家 AI 芯片核心公司的治理风险。

Fable 5.2 solved two open problems in theoretical physics related to black holes. In the first, Fable 5.2 completed a laborious calculation that had gone unsolved for 23 years.
推荐理由:材料给出一个具体案例,说明AI在理论物理长计算中独立完成此前无人算完的推导,并已被物理学家核对。
物理学家威滕在33页独作预印本论文中致谢 Claude Opus 5.5 协助完成许多细节,并在正文中写明 Claude 提出了规范场插值的关键变体算法。该论文攻坚手征费米子的格点化问题,威滕采纳的构造是在坐标拉回映射下引入阶梯式边界塌缩,使插值在超立方体拼接处获得光滑性并保持和乐匹配。相比6月版本中 Claude 仅出现在脚注,此次其角色从 helped 变为 suggested。
推荐理由:材料呈现了威滕在论文致谢与正文中记录 Claude 参与数学构造的具体位置,可观察 AI 在理论物理写作中的实际角色。