跳到正文
The Decoder· Jonathan Kemper·· 2 小时前精选AI 评分78

Nvidia 开源机器人视频标注引擎 Flora,称成本比 GPT-6 Astra 低 125 倍

Nvidia open-sources Flora to make robot video labeling 125x cheaper than GPT-6 Astra

AI 导读

Nvidia 开源数据引擎 Flora,用于为机器人视频生成动作分段、过程奖励和结果评分三类标注,称标注一小时视频约 0.72 美元,而 GPT-6 Astra 约 88.50 美元。

推荐理由

原文给出了成本估算、基准对比和已知短板,读者可据此判断开源标注工具在机器人数据管线中的实际位置。

正文 · AI 翻译

为一段一小时的机器人视频打标签只需72美分,而不是88美元,这是Nvidia对其开放数据引擎Flora的承诺。但与GPT-6 Astra的对比并不像价格标签所暗示的那样悬殊。

用于机器人的大型AI模型从需要文本标注的视频中学习,而据Nvidia的GEAR研究实验室称,这需要三类标签。第一,描述视频中何时发生何种动作,用于筛选训练数据。第二,对机器人逐步进展的评分,以便它通过试错学习。第三,判断任务是否成功完成,用于在部署期间监控机器人。现有的大多数工具只提供其中一类。像GPT-6 Astra这样的大语言模型可以生成多类标签,但对于所涉及的海量视频来说,它们太贵了。

alt: Overview graphic of Flora's five capabilities, including a robot stacking cups into a pyramid, a timeline with segments A through G, example captions, and examples of outcome, process, and rubric rewards.
Flora将视频拆分为时间段,描述每个动作,并评估一个回合的执行情况和结果。| 图片:Nvidia

根据论文,Flora涵盖全部三类。Nvidia表示,该系统已在其GR00T模型的训练期间运行,在512块GB300 GPU上每天标注多达20万小时的视频。这些模型可在Hugging Face上获取。

Flora由三个微调过的Qwen3.5模型组成。一个9B模型将视频切分为动作片段,一个27B模型描述这些片段,同时考虑每个动作前后发生了什么。第二个27B模型名为Flora-Rewarder,根据提示词承担三种角色。它以1到5的尺度评价一个回合的成功程度,将每个半秒步骤分类为正常、次优或失败,并根据自定义的评分标准打分。

alt: Diagram of the Flora pipeline showing an episode video branching into timestamped captions via overlapping windows and into reward labels with dense, outcome, and rubric scores.
一个分割模型和一个描述模型生成带时间戳的描述,而单个奖励模型生成全部三类评分。| 图片:Nvidia

按Nvidia自己的估算,成本最多可降低125倍

在一项使用50个视频的测试中,据Nvidia称,Flora的得分略高于GPT-6 Astra,尽管OpenAI的模型被允许使用其全部推理能力。据Nvidia估算,用Flora标注一小时视频的成本约为72美分,而用GPT-6 Astra约为88.50美元。Claude Opus 5在同一测试中得分差得多,成本却仍约为每小时42美元。

alt: Scatter plot comparing annotation quality in percent against cost per source video hour in US dollars on a logarithmic scale, with Flora in the upper left ahead of GPT-6 Astra, Claude Opus 5, Gemini, and other models.
据Nvidia称,Flora以每视频小时0.72美元的成本达到57.1%的标注质量,而GPT-6 Astra以88.49美元达到53.7%。| 图片:Nvidia

不过,Flora的成本数字是预测值,而非生产实测值。Nvidia是根据假设每GPU每小时10美元的租用价格计算得出的。

Flora更擅长发现动作,但Astra往往描述得更精确

在公开的WGO-Bench上,Flora最擅长检测动作边界,但总分落后于Astra,在纯描述准确率上落后于Gemini 3.8 Flash。据研究人员称,这些提升主要来自时间定位。

在Nvidia自己的DenseCaptionBench上,Flora在人类录制视频的所有指标上领先,但在机器人视频上,该模型位居Astra之后排名第二。研究人员也承认存在一个方法论上的问题。GPT-6 Astra在评估这些描述的同时,本身也是受测模型之一。

alt: Six bar charts comparing Flora with GPT-6 Astra, GPT-5.6 Sol, Gemini 3.8 Flash, and Kimi K3 on timestamped captions and reward annotations.
Flora在人类录制视频、结果评分和逐步评分上领先,而GPT-6 Astra在WGO-Bench、机器人视频和评分标准打分上胜出。| 图片:Nvidia

几乎没有其他模型能捕捉到回合中途的错误

在 RoboRewardBench 上,Flora 的错误率比 Astra 低 27.8%。论文将这一差距归因于部分完成的任务。当机器人只是把瓶子碰倒而不是把它从桌上打落时,Flora 会给出 5 分中的 3 分,以与人类参考保持一致,而 Astra 只给 1 分。

Flora-Rewarder 能在一个回合内捕捉到 53.3% 的失败步骤,而没有任何竞争对手超过 11.7%,Astra 则一个都没能捕捉到。代价是 Flora 会把约 11% 的正常步骤误标为错误。Astra 在基于评分标准的打分和轨迹排序方面仍然领先。

在一段包含许多短促手部动作的视频中,Flora 识别出 37 个单独动作中的 34 个,而 Astra 只捕捉到 4 个。另一方面,Flora 有时会把较长的动作拆分成过多的小步骤,偶尔也会把描述弄错。在一段视频中,一只机械手用布擦拭盘子,但 Flora 将其描述为折叠餐巾。

alt: Comparison of Flora and GPT-6 Astra with timelines of detected actions, video stills of hands wiring and passing tea leaves, and examples of a failed toy airplane assembly and a tipped bottle.
在一个示例回合中,Flora 识别出 37 个参考动作中的 34 个,而 GPT-6 Astra 只捕捉到 4 个。| 图片:Nvidia

Nvidia 将 Flora 定位为 Scale AI 的 Physical AI Data Engine 等商业服务的开放替代方案。研究人员可以用它来扩展自己的机器人数据集,并测试诸如将人类演示迁移到机器人等方法。Nvidia 正投入数十亿美元于开放 AI 模型,以将开发者留在其硬件生态系统中并推动对其芯片的需求,而 Flora 服务于同样的目标。

该公司一段时间以来也一直在努力通过仿真和自动化数据处理来弥补机器人训练数据的短缺。在今年早些时候的 GTC 上,Nvidia 展示了一条数据流水线,可自动准备、扩充和评分训练材料。Flora 为该流水线增加了来自视频的详细标签和奖励信号。

所有这些都汇入Nvidia 覆盖整个机器人价值链的战略,从硬件和训练数据到仿真以及 AI 模型本身。Google 最近发布的 Gemini 4 Argon 瞄准了机器人训练流程中类似的部分,同样能识别训练视频中的工作步骤并标记失败动作。

来源:The Decoder · the-decoder.com