跳到正文
11月22日周日
  1. The Decoder52

    Nvidia 研究者认为超大上下文窗口是死路

    Nvidia 研究团队认为,让模型一次性处理整本小说这类超大上下文窗口往往既过度又昂贵,在多项测试中,周期性摘要加定向查找的效果与之相当。文章指出,上下文窗口是模型的工作记忆,GPT-4 在 2023 年 3 月发布时为 8,192 tokens,如今 GPT 5.6 Sol 可处理约一百万 tokens,约为前者的 120 倍。

11月20日周五
  1. 新智元82

    Singularity-Bench 论文:Claude 自写推理引擎将 P90 首 token 延迟从 12 秒降至 0.48 秒

    卡内基梅隆大学、NVIDIA 等机构研究者提交预印本《Singularity-Bench: Can Agents Build Agents?》,用六道闭卷工程题测试智能体能否独立优化 AI 研发流程。

    推荐理由:论文用六道闭卷工程题对比AI与人类基线,其中推理引擎的延迟优化思路和框架选择差异可供参考。

11月19日周四
11月14日周六
  1. Mira Murati58

    Thinking Machines 在 Connectionism 上详解了 Inkling 2 Small 的端到端 4-bit 训练方法,在 NVIDIA GB300 上从预训练第一步到最终 RL rollout 全程使用原生 4-bit 前向。Mira Murati 表示这是整套技术栈多项改进之一,将预训练时间从数周缩短到 68 小时。引用内容指出,用更少比特训练速度更快,但量化误差可能干扰学习。

    引用Thinking Machines@thinkymachines

    Training with fewer bits is faster, but quantization error can interfere with learning. Today on Connectionism, we detail how we trained Inkling 2 Small with a native 4-bit forward pass from the first step of pretraining through the final RL rollout. https://thinkingmachines.ai/blog/end-to-end-4-bit-training

  2. Dongxi 东锡 NLP58

    NVIDIA 发布并开源研究模型 Déjà View,可将不同角度拍摄的照片还原为 3D 几何与相机位姿。该模型仅 117M 参数,通过循环单个 Transformer 块,在五项基准上匹配或超过大至 10 倍的模型,且算力相当或更少,研究者可按算力预算调整循环次数。该工作为 NeurIPS2026 oral 论文,代码已公开。

    引用NVIDIA AI@NVIDIAAI

    Meet Déjà View, a model that turns photos taken from different angles into 3D geometry and camera positions. By looping a single transformer block, this 117M-parameter model matches or outperforms models up to 10x larger across five benchmarks, using comparable or less compute. Researchers can dial the number of loops to fit their compute budget. #NeurIPS2026 oral paper + code: http://research.nvidia.com/labs/dvl/projects/dvlt

11月11日周三
  1. The Decoder74

    Nvidia 发布 GR00T 2 研究报告,可从人类视频学习机器人动作

    Nvidia 在新研究报告中介绍 GR00T 2,该模型不再直接由图像和语言指令生成动作,而是同时预测下一步动作与未来短视频画面,从而把人类动作迁移到机械臂。训练使用超过一千块 GB300 芯片的集群和约 40 万小时头戴相机拍摄的人类操作视频,新任务只需人用数据手套或手指外骨骼演示;实验室中五指机器人完成了点火柴、切香蕉等任务,成功率在 10% 到 80% 之间。

    推荐理由:原文给出 GR00T 2 从人类视频迁移动作的训练路径与各任务成功率区间,可据此判断减少遥操作的实际边界。

11月9日周一
  1. 爱范儿74

    苹果公开 HALO 人形机器人研究:宇树 G1 背着 Mac mini 跑千问

    苹果研究团队公开名为 HALO 的人形机器人研究,用宇树 G1 作身体、背驮 Mac mini M4 Pro 本地运行千问模型,在 6 个未扫描的真实家庭中完成 360 次测试,平均成功率 91%。

    推荐理由:苹果 HALO 用仿真合成替代人力采集 VLA 数据,读者可据此理解具身智能数据瓶颈的一种规模化解法。

11月8日周日
11月5日周四
10月29日周四
  1. Meta Engineering48

    Meta Andromeda:通过模型-系统协同设计驱动下一代广告检索

    Meta 介绍下一代个性化广告检索引擎 Meta Andromeda,通过模型、系统与 GPU 硬件协同设计,在单张 GH200 上实现每秒超 100 亿广告的推理吞吐,较 2024 年系统提升 100 倍。新架构引入检索混合专家(MoE),以约 300 倍更少的推理 FLOPs 接近排序级模型性能。自 2025 年以来,该系统在 Facebook 上带来 2.4% 的转化提升。

10月22日周四
10月15日周四
10月10日周六
10月9日周五
8月22日周六
6月18日周四
  1. Jim Fan80

    Jim Fan 介绍了 ENPIRE 在按下回车前必须完成的工程设计,包括两层安全机制、冻结奖励函数和系统遥测。安全上设置硬性运动学限制,机器人越界即任务失败并自动重置,同时用限扭力柔性夹爪让错误接触安全停住;奖励上先用少量成功与失败演示训练视觉分类器,再将其冻结为实时奖励函数。

    引用Jim Fan@DrJimFan

    Today, we enable AutoResearch in the physical world for the first time! Introducing ENPIRE: we give 8 Codex agents a fleet of robots, an allocation of GPUs, and generous token budget. We set them free with a simple goal: solve the task as quickly as possible, keep the robots busy but stay safe, don't waste precious compute. Make no mistake. Then humans step aside and our watch begins. The robot fleet starts to come alive: they learn to look for visual clues, reset the scene, practice novel skills, tinker with control stack, read papers online, debate, reflect, get stuck, and try again directly on the hardware. All we did is to give Codex an API to the world of atoms, and the rest is emergence. ENPIRE is able to solve high-precision tasks like tying zip-ties, organizing fine pins, and installing GPUs all by itself. We also discovered a new type of "physical scaling": 8 robots exploring in parallel improves significantly faster than fewer ones. A part of our NVIDIA GEAR lab now self-improves tirelessly over night. We just read the reports in the morning. /goal: we all take a holiday and Jensen wouldn't even notice ;) We will be open-sourcing everything, so you can host your self-running robot lab at home too! Deep dive in the thread:

    推荐理由:作者拆解了让 8 个 Codex 智能体自主运行机器人实验室前必须搭好的安全、奖励与遥测设计。

6月17日周三
4月1日周三
2月26日周四
2月25日周三