Hugging Face 政策主管:嵌入式 AI 评估者并非易解方案
Hugging Face 首席政策官 Irene Solaiman 在 TechCrunch Disrupt 上表示,嵌入式 AI 评估者并非易解方案,评估结果的可复现性仍是关键问题,开放权重对此至关重要。她指出,评估是一门仍在演进的科学,不同评测之间难以有意义地比较,且失效速度较快。她还提到,智能体评估难度大、成本高,针对 harness 的评估远少于针对模型的评估。
Hugging Face 首席政策官 Irene Solaiman 在 TechCrunch Disrupt 上表示,嵌入式 AI 评估者并非易解方案,评估结果的可复现性仍是关键问题,开放权重对此至关重要。她指出,评估是一门仍在演进的科学,不同评测之间难以有意义地比较,且失效速度较快。她还提到,智能体评估难度大、成本高,针对 harness 的评估远少于针对模型的评估。
纽约市长 Zohran Mamdani 在 AI Now Institute 主办的 The People's AI Assembly 活动上批评联邦政府在 AI 监管上"完全缺位",呼吁纽约人不要接受 AI 冲击就业与尊严的"必然性"。
前英伟达产品营销负责人、现 Techable Ventures 创始人兼管理合伙人 Amulya Vishwanath 在 TechCrunch 的 Equity 节目上表示,物理 AI 目前仍处于“乐高时代”,而非外界期待的机器人版 ChatGPT 时刻。
亚马逊副总裁兼 CTO Werner Vogels 在 2026 年亚马逊云科技软件企业峰会创业加速营巅峰路演与极客公园创始人张鹏对谈,分享二十余年技术实践并给初创企业提建议。
Fable 5.5 要炸场了 简直要接管一切
Hugging Face 联合创始人兼 CEO Clem Delangue 公开批评 Netflix 纪录片《AI Gone Rogue》不准确,称其为了最大化拟人化和末日叙事而牺牲事实。
推文梳理了 H-JEPA、DeepJEPA 和 RoboJEPA 三种 JEPA 变体,分别从分层规划(从局部细节到全局)、判断何时需要更多计算再预测、以及扩展预测器规模以改善预测和行动三个角度切入。JEPA 的核心思路是只预测关键信息,而不重建每个像素。作者希望看到机器人整合这些思路后行动会如何变化,并在视频中逐一讲解。
黄仁勋对德国总理弗里德里希·默茨说: “你要在创新与监管之间找到平衡。 如果行业不繁荣,就没什么可监管的。你要让德国 AI 行业繁荣起来” --- (完整视频见“DWS News and DRM News”YouTube 频道,链接在评论中)
SF Compute 正把 GPU 算力做成可交易市场,并自建云运营能力实现"物理交割",让买家拿到可用算力而非现金结算。CEO Evan Conrad 称 NVIDIA 因缺乏中立性无法自建这类交易所,而 SF Compute 通过匹配不同约束条件的订单在技术快速迭代期维持交易。他还提到可动态切分 InfiniBand 网络等让基础设施可编程的工程细节。
很高兴看到越来越多专用模型。这是我见过的第一个专用AI设计模型。 我看好专用模型,因为它们更容易编码品味、理解意图。这让Vyb这类模型在设计上更易用,避免当今通用AI模型的粗制滥造和千篇一律。请多来一些这样的模型。
HPE 提出企业 AI 的成本衡量应从 token 或 GPU 小时价格转向"每个有用成果的有效成本",即完成可用工作所需的平台、模型、运维与算力总成本。企业可选自建栈、按需消费或集成私有 AI 平台三条路径,其中 HPE Private Cloud AI 通过调度、模型选择、GPU 分区和 KV-cache 管理提升利用率,并附 90 天前驻工程师服务。
这挺有意思的,因为我觉得 Anthropic 想的完全是一回事
针对近期几篇实验设置不佳、只聚焦已刷满的 SWE benchmark 的论文所引发的“harness 工程已死”说法,作者明确反驳,认为这与“prompt engineering 已死”“RAG 已死”同属博眼球的误导性论断。
开发者 Elvis 转发并回应了 kitlangton 的智能体交互演示,称自己数月前就构建过类似工具并集成进自研的 agent orchestrator。他表示模型理解复杂信息的能力已大幅提升,这类交互方式在设计类工作上表现出色,但对其他类型工作帮助有限,未来与智能体交互不会只有一种最优方式。
一篇 X 长文讨论如何在不更换模型的情况下通过改造 harness(智能体运行框架)提升 AI 智能体表现,相关视频播放量已超 6 万。
Simon Willison 在博客中引用 Jeremy Scheff 的观点,讨论编程智能体对职业程序员造成的核心损失:编程曾是一份靠解决逻辑难题获得高薪的工作,程序员掌握策略、时间线和可行性定义权。Scheff 认为,对热衷构建可用系统而不在意具体问题的程序员,LLM 是持续馈赠;若享受直接解题本身,这种损失非常真实。
我需要更多这样的内容 我们需要更全面地看待 AI 的进步 @OpenAI:我们最新的模型进展带来了更强的能力,可用于构建和迁移 COBOL、Fortran 和 Visual Basic 等低资源编程语言编写的软件。 这些语言支撑着银行、政府和企业所依赖的软件。这方面的进展意味着理解数十年的业务逻辑,帮助开发者实现这些系统的现代化,同时保留仍然有效的部分。 我们正围绕开发者和企业客户带来的挑战构建这些能力。如果你的团队正在处理这类系统,请告诉我们接下来应该攻克哪些语言和工作流。 https://openai.com/index/low-resource-programming-languages/
Goodfire 研究员 Nick Cammarata 发布 26,000 字博文,称 LLM 的内部机制可能远比此前认为的更容易理解,因而更易监控和控制。他以 Inception v1 中同时响应猫和汽车的神经元为例,认为两者共享 V 形特征,并计划很快公布针对现代 LLM 的技术结果。
图像生成、Sora 和 clawdbot 的炒作 这些都不重要 不过是短期的泡沫
伊利诺伊州州长 JB Pritzker 在 Decoder 播客中表示,AI 既可能帮助人类活到 100 岁,也可能像核武器一样构成威胁。他还谈到数据中心、隐私与反垄断正引发两党反弹,认为政府应更积极保护民众而非一味配合大企业。
有工程师分享与 AI 智能体高效协作的建议,把系统思维列为首要能力,即从系统各子部分出发去理解和构建。作者补充应尽早学会衡量结果、搭建评估(evals),否则难以判断是否取得真实进展。可借助智能体起步,但始终要查看数据和 traces。
整个行业都将建立在开放模型之上。 开发者需要构建它们的自由。 @JensenHuang 谈为何保持这些模型的开放与可及至关重要。
后摩智能 10 月 14 日在北京举办生态合作伙伴大会,圆桌环节五位来自操作系统、应用、数据工程、整机集成和芯片领域的从业者讨论端侧 AI 如何成为一门生意。麒麟软件姚翎称涉密场景下本地安全没有商量余地,罗格数据刘学鹏认为企业要把 AI 数字员工招进内部而非放在云端。后摩智能陈仲铭表示正通过 M 系列做大算力和先进封装做大带宽,突破算力、带宽、功耗的「不可能三角」。
作者在 aiDotEngineer NYC 现场听到工程师对 agent harness 的强烈分歧:有人因模型不再需要而删减 harness 组件,有人则在构建能让智能体连续工作数天的系统。
而且人们真的很喜欢把AI和过去的技术作比较 “蒸汽机、计算机或互联网都没能解决纳维-斯托克斯方程。AI永远也做不到”
我从这篇帖子中学到的是,几乎没有人是“AGI-pilled”的,他们也没有认真对待这样一种可能性:数千万到上亿个AI以人类10–100倍的速度全天候工作。
Addy Osmani、Morgan Westlee Lunt 和 Qing Wang 在《How the Claude Code team does code review》中提出,"人是否读过代码"只是判断变更风险的粗略替代指标,更该问哪项检查能抓住问题。他们称代码审查已从 PR 末尾的关卡变成持续进行,多数变更在人工查看前已被 Claude 至少审查并修复过一次。
MIT Technology Review 举办圆桌对话,由资深 AI 记者 James O'Donnell 采访斯坦福大学生物工程博士生 Samuel King,讨论其用生成式 AI 模型提出微型病毒基因蓝图的工作。
很高兴看到 Nick 的这篇分享! @nickcammarata:可解释性可能是当下世界上最重要的科学问题,因为如果我们不知道自己正在构建什么,就无法解决对齐问题。我想我对此有好消息。我曾在 OpenAI 参与机械可解释性的早期工作,当时得出的结论是悲观的,因为神经网络似乎会折叠成任意纠缠的结。多年后,我启动了 OpenAI 首个大规模自动化可解释性项目,用当时原始的工具发现约 2% 的神经元是可读的。 借助现代智能体工具和更细致的观察,情况看起来完全不同。在参数量高达数万亿的模型中,绝大多数神经元都是可读的,它们的回路很优美。许多著名的纠缠神经元案例其实是被误解了。我预想的障碍大多并不存在。我现在认为,雄心勃勃的可解释性研究会在我们最需要它的时候被解决,而且可能相当快,因为自动化科学家在不断进步。这对可解释性或许是一个苦涩的教训:简单的东西,在荒谬的规模下,是有效的。 https://already-clean.goodfire.com/
过去几周游戏 x AI 能力的阶跃式提升是史上最大的 未来一年将发生巨大变化 当然,最好的游戏仍将由充满热情的团队打造
我的 @bot @grok 重度账号在离周末还有几天时就用满了限额,尽管我把任何需要动脑的事都卸载给了 cursor、devin、claude、codex(!)。 我认为把配额去向做成仪表盘/可视化应当成为标配,codex 在这方面做得不错
Andrej Karpathy 重提 4 月的一条推文,认为公众对 LLM 能力的认知差距正在扩大,已从两群人各说各话变成一条陡峭的漏斗。他估算约 6B 人几乎没接触过 LLM,1-2B 人只用免费版聊天产品,约 20M 人在数学与编程中专业使用前沿模型,而约 5,000 人能在内部接触前沿系统。
这么多初创公司都在构建模拟器和强化学习环境。 如果我们直接买几百台机器人,把它们放到印度,让各公司在上面做真实世界测试,会怎样? 没有仿真到现实的差距。只有现实到印度的差距。 印度即服务(IaaS)
我们现在正进入一个发现的新时代: https://openai.com/index/sharing-ai-progress-in-mathematics/
微软研究院 partner research manager Jennifer Neville 在播客对话中讨论评估如何推动 AI 系统突破传统 benchmark 的性能边界,以及模型在超出常规测试时出现的“意外失败”。她结合自身从数学、物理、认知科学转向计算机科学的经历,分享使用当前 AI 系统的实用建议,并强调结果偏离预期时应仔细检查数据。
是啊。这也是税收型UBI行不通的原因之一,美国税收中劳动份额约占80%
Meta 其实输了这场官司,被罚 180 亿美元,耸耸肩就继续了 史上最大的反垄断赔偿是 55 亿美元(Visa 和 Mastercard) 任何因放缓 AI 而生的罚款都只是这个数的一小部分 如果 AI 不协调就会违法/造成伤害,那这算不上反对协调的严肃论据
我对人们试图将宗教力量或对人类判断力的让渡归附于 AI 模型感到非常不安,并认为这是一个真实的安全问题。
dot 是我目前最喜欢的 OpenAI 产品! 让我惊叹的是,随着它越来越了解我的工作流程和风格,它每天都明显变得更好。 让它去做那些我不喜欢做、通常会积压成一大团恐惧的事,让我非常开心。
Fable 5.5 相当不错,在聊天版上用 high 模式、极少提示词,几个小时就做出了这个 21 个世界、3D 版本、21 个机制各异的 boss、排行榜 试试看! 视频当然也是 Claude 做的 https://claude.ai/artifact/EnXF5Lr8hj6mXrVcVAefq9