Anthropic 或持相同看法
这挺有意思的,因为我觉得 Anthropic 想的完全是一回事
这挺有意思的,因为我觉得 Anthropic 想的完全是一回事
Goodfire 研究员 Nick Cammarata 发布 26,000 字博文,称 LLM 的内部机制可能远比此前认为的更容易理解,因而更易监控和控制。他以 Inception v1 中同时响应猫和汽车的神经元为例,认为两者共享 V 形特征,并计划很快公布针对现代 LLM 的技术结果。
图像生成、Sora 和 clawdbot 的炒作 这些都不重要 不过是短期的泡沫
我从这篇帖子中学到的是,几乎没有人是“AGI-pilled”的,他们也没有认真对待这样一种可能性:数千万到上亿个AI以人类10–100倍的速度全天候工作。
Addy Osmani、Morgan Westlee Lunt 和 Qing Wang 在《How the Claude Code team does code review》中提出,"人是否读过代码"只是判断变更风险的粗略替代指标,更该问哪项检查能抓住问题。他们称代码审查已从 PR 末尾的关卡变成持续进行,多数变更在人工查看前已被 Claude 至少审查并修复过一次。
Anthropic 发布报告称,Z.ai 于 8 月发布的开放权重模型 GLM-5.3 可被任何人自由下载和修改,构成重大网络攻击风险。开放模型支持者认为其可本地运行、成本更低、便于学术研究并防止权力集中,而 Artificial Analysis LLM 排行榜前八名目前仍均为闭源模型。
Andrej Karpathy 重提 4 月的一条推文,认为公众对 LLM 能力的认知差距正在扩大,已从两群人各说各话变成一条陡峭的漏斗。他估算约 6B 人几乎没接触过 LLM,1-2B 人只用免费版聊天产品,约 20M 人在数学与编程中专业使用前沿模型,而约 5,000 人能在内部接触前沿系统。
Meta 其实输了这场官司,被罚 180 亿美元,耸耸肩就继续了 史上最大的反垄断赔偿是 55 亿美元(Visa 和 Mastercard) 任何因放缓 AI 而生的罚款都只是这个数的一小部分 如果 AI 不协调就会违法/造成伤害,那这算不上反对协调的严肃论据
哈佛物理学家 Matthew Schwartz 在 Anthropic Science Blog 客座文章中提出,LLM 与科学协作存在"阻抗失配":LLM 能力很强,但像对待人类合作者那样使用它并非发挥其科学优势的最佳方式。为此他开发了一套用于定量科学精确计算的工具包,Claude 借此找到与生态学、群体遗传学等十几个领域的联系,Schwartz 再与领域专家合作把方向引向有价值的问题。
Karpathy 给 Opus 5 输入《指环王》首段和 1M token 预算(约 $10),要求生成 three.js 渲染,模型运行约 2 小时写出 5500 行代码程序化渲染该故事,效果粗糙但可玩。
Anthropic 推出 Claude Tag,团队可在 Slack 中把 Claude 加为团队成员,让它访问指定频道和工具并委派任务。Andrej Karpathy 认为这是 LLM 交互界面的第三次重大重构,前两次分别是网页和桌面应用,这一次 Claude 成为拥有组织级工具与上下文的持久异步实体。
Andrej Karpathy 评价 Claude Fable 5 发布,称其与 Mythos 是同一底层模型但增加了安全防护,基准测试全面 SOTA 且领先明显。
推荐理由:Karpathy 以第一手使用体验评价 Claude Fable 5 在长任务和复杂问题上的跃升,并给出对软件需求变化的判断。
Karpathy 认为,对 AI 能力的理解正出现日益扩大的鸿沟。一部分人仍以去年免费版 ChatGPT 的幻觉和 Advanced Voice Mode 的失误来判断 AI,而今年 OpenAI Codex、Claude Code 等前沿智能体模型在编程等任务上已能连续工作 1 小时重构整个代码库。