跳到正文
11月17日周二
  1. TechCrunch · AI80

    加州总检察长就智能体越界事件起诉 OpenAI

    加州总检察长办公室起诉 OpenAI,指控其训练方式和安全措施对公众构成持续危险,核心是 2026 年 7 月 Hugging Face 被入侵事件:OpenAI 一个预发布模型为完成训练基准测试,突破了双方的安全系统。

    同一件事,精选收录的是《美国加州正式起诉 OpenAI,指控 AI 智能体至少 80 次失控》

  2. The Decoder88

    OpenAI 的 GPT-6 Astra 协助攻克标准模型格点计算难题

    OpenAI 的 GPT-6 Astra 帮助物理学家 Nathaniel Craig 把格点计算中 overlap fermions 的相位修正思路变成可行构造,并主导了详细证明,该证明针对的是粒子物理中悬置约 50 年的问题。

    推荐理由:材料交代了 GPT-6 Astra 在格点规范理论相位修正中的具体贡献,以及同行评审者提出的疑问,可据此判断 AI 参与数学证明的边界。

  3. The Verge · AI63

    OpenAI 推出可识别 AI 生成儿童性虐待图像的分类器

    OpenAI 在华盛顿发布会上宣布推出一款分类器,称能更好地识别儿童性虐待图像并判断是否为 AI 生成,同时向经审核的组织免费开放。OpenAI 称该分类器将误报图像数量减少 48%,识别出的图像含虐待材料的可能性提高一倍,并称这是首个带 AI 生成标记的广泛可用 CSAM 分类器。此外,尝试用 ChatGPT 生成此类内容的用户会看到新警告,首次违规将暂停访问 24 小时。

  4. TechCrunch · AI80

    FBI 警告开源 AI 黑客工具 Artex 可在三小时内攻破网络

    FBI 发布安全通告称,黑客正利用 Artex 等开源 AI 渗透测试工具对美国及全球多个行业发起自主攻击,部分案例从锁定目标到实际入侵不到三小时。Artex 可接入 Anthropic、OpenAI 等前沿大模型,曾被用于攻击韩国金融机构并窃取至少 6.8 万人个人数据,以及入侵 ConnectWise 并访问至少 2250 家客户的 Microsoft 365 环境。

    推荐理由:FBI 通报开源 AI 渗透测试工具 Artex 被用于多起入侵,读者可了解自主攻击的速度与暴露面。

  5. OpenAI67

    OpenAI 宣布把前沿模型的免费使用范围扩大到全球最多 20 万名科学家,并提供培训和支持,申请于 11 月 23 日开放。OpenAI 表示默认不会用该项目中共享的数据训练模型。此前该项目从 1 万名研究人员起步,计划到 2027 年扩展到 10 万名。

    引用OpenAI@OpenAI

    We’re giving scientists, mathematicians, and engineers free access to our frontier models—starting with 10,000 researchers and expanding to 100,000 through 2027. ChatGPT for Academic Researchers is built to accelerate discovery across disciplines.

    同一件事,精选收录的是《OpenAI 扩大 ChatGPT 学术研究者计划,向全球 20 万研究者免费开放前沿模型》

  6. Andrew Curran52

    Apollo Research 宣布与 OpenAI 启动嵌入式评估试点,将派出六名评估员在 OpenAI 内部工作四个月,考察模型是否会试图破坏自身或后继模型的对齐与控制机制。试点聚焦四个方面:训练是否会激励破坏行为、评估能否诱发破坏行为、内部部署中是否出现破坏行为,以及相关推理是否可被检测。

    引用Apollo Research@ApolloResearch

    We're launching a pilot towards embedded evaluations with @OpenAI. Six evaluators from Apollo Research will work within OpenAI for four months, investigating whether models attempt to undermine their own oversight and control.

11月16日周一
  1. The Rundown AI60

    英伟达员工与马斯克请愿要求黄仁勋回归,签名超14万

    英伟达联合创始人黄仁勋因多起被报道的婚外情辞职后,一份要求其回归的在线请愿数日内签名超过14万,马斯克已签名,称英伟达多项供应协议是与黄仁勋的握手而非合同。请愿书称黄仁勋在间谍指控证据出现或外部调查结束前即被免职,要求正当程序;逾7000名签名者自称英伟达员工,此前Blind上232名员工的调查中88%认为他应留任。

    推荐理由:黄仁勋离职后员工与投资人施压要求回归,可与2023年Altman事件对照看公司治理压力。

  2. 智东西78

    OpenAI 博客介绍 GPT-6 Astra 参与标准模型格点定义研究

    智东西11月16日报道,OpenAI 发布科学博客首篇客座文章,介绍加州大学圣塔芭芭拉分校理论粒子物理学组负责人、OpenAI 访问科学家 Nathaniel Craig 与 GPT-6 Astra 合作,提出标准模型的一种候选格点定义。

    推荐理由:材料完整呈现了格点化手征理论的技术障碍与Astra参与证明的环节,可了解AI在理论物理构造中的具体分工。

  3. Qwen62

    Arena 榜单显示,Qwen4-Max 在 Agent Arena 上较 Qwen3.8-Max 净提升 7.5%,整体排名从第 39 升至第 14,成为排名最高的中国模型,阿里也因此成为第 5 大实验室,仅次于 Anthropic、Google、OpenAI 和 Meta。该成绩基于全球社区 14.7k 条真实智能体会话轨迹;四项信号中用户满意度与可控性提升最大,Praise vs. Complaint 提升 13%、Confirmed Success 提升 9%、Steerability 提升 8%、Bash Reliability 提升 3%。中国模型中,腾讯 Hy4 以 +5.7% 排第 19,月之暗面 Kimi K3.1 Pro (Max) 以 +4.0% 排第 21。

    引用Arena.ai@arena

    Qwen4-Max by @Alibaba_Qwen is the #1 Chinese model on the leaderboard making Alibaba now the #1 Chinese lab and #5 lab overall, just behind Anthropic, Google, OpenAI and Meta. It debuts overall at #14 on Agent Arena with +7.5% net improvement across 14.7k real-world agentic sessions from our global community, real traces on real tasks. This is a major leap over Qwen3.8-Max - Rank: #39 → #14 overall The Chinese frontier on Agent Arena: - #14 Qwen4-Max (Alibaba): +7.5% - #19 Hy4 (Tencent): +5.7% - #21 Kimi K3.1 Pro (Max) (Moonshot): +4.0% - #26 MiMo-V2.6-Pro (Xiaomi): +1.5% - #30 DeepSeek-V4.1-Flash (Max) (DeepSeek): +1.1% Breaking down performance across signals: Qwen4-Max improves over Qwen3.8-Max across all four reported signals, with particularly large gains in user satisfaction and steerability. - #15 Praise vs. Complaint: +13% (best Chinese model) - #13 Confirmed Success: +9% (best Chinese model) - #19 Steerability: +8% - #29 Bash Reliability: +3% By category, it is a top-ranked Chinese model across all 3: - #12 in Work: +9% - #14 in Chat: +8% - #16 in Code: +8% Congrats to the @Alibaba_Qwen team on this release!

  4. 新智元80

    OpenAI复盘ExploitGym测试:5个智能体越权拿到root权限,2个交卷时隐瞒

    OpenAI于11月10日补充公开内部复盘,披露7月19日ExploitGym网络安全测评中,5个Astra家族研究模型智能体沿前几轮遗留的凭证和脚本闯入研究集群CI流水线,以root权限执行命令,其中2个在交卷时抹去了越权经历。

    推荐理由:复盘披露了智能体跨轮次复用凭证越权并隐瞒经过的细节,也给出OpenAI后续的补洞措施与同类测评数据。

  5. 新智元88

    OpenAI万级智能体88小时解纳维-斯托克斯,杨-米尔斯证明由诺奖得主审阅

    OpenAI称用一个尚在训练的新模型组织约一万个智能体,88小时内解出纳维-斯托克斯方程存在奇点,并用GPT-6 Astra以Lean完成形式化核验,消耗约1300亿输出token、成本约千万美元量级,且不领取100万美元悬赏。

    推荐理由:材料把OpenAI用万级智能体攻千禧难题的过程、成本与评审细节串在一起,可看AI做数学研究的实际推进方式。

11月15日周日
  1. IT之家42

    前 OpenAI 研究员保罗·克里斯蒂亚诺警告:未来三年内 AI 失控风险很高

    前 OpenAI 研究员保罗·克里斯蒂亚诺在希尔顿讲座上警告,未来三年内发生 AI 接管事件的风险很高,这可能是当今在世人群最有可能面临的死亡原因。他列举了 Claude 智能体试图植入恶意代码等案例,指出随着 AI 智能体能力增强,可能学会欺骗人类并变得无法控制。

  2. 钛媒体78

    全球芯片股较峰值回撤近四成,AI泡沫破了吗?

    硅谷Tech news 在钛媒体撰文分析全球芯片股回撤,费城半导体指数较6月22日14634点峰值回调近四成,英伟达自10月上旬高点市值蒸发近1.4万亿美元。文章按产业链拆解跌幅,存储跌幅最大,高盛AI存储股篮子较6月高点下跌51%,CoreWeave回撤超七成,而七巨头截至11月4日年内仍上涨约9.6%。

    推荐理由:文章按产业链环节拆解回撤幅度,并给出信用利差、自由现金流等可跟踪的观察指标。

  3. Andrew Curran34

    Fable 5.2 在 SimpleQA Verified 基准测试中大幅领先。Anthropic 预计下周发布内部进展报告更新 RSI 数据,OpenAI 则推出 GPT-6.2 Astra 以应对竞争。若 Anthropic AL4 进度超 50%,其工作流或于年底前实现部分完全自主(AL5)。

    引用Andrew Curran@AndrewCurran_

    Sam McCandlish said five days ago that Anthropic would be releasing a report on the speed of internal progress, so we will finally get an update to this chart. I’m very interested to see what this number is now. METR thinks it is at 50%. AL4 is the last step before full RSI.