CMU等提出统一预训练、微调与RL的单一训练算法
热点事件观察中
CMU等提出统一预训练、微调与RL的单一训练算法
2 篇报道2 个报道来源1 天前更新
先了解这件事
AI 综述
卡内基梅隆大学等机构的研究者发表论文，提出一种名为“unified training”的方法，把预训练、中训练、SFT 和强化学习放进同一个基于似然的算法：将合适的 RL 目标视为对模型生成目标的最大似然拟合，使 RL 生成与静态数据共用一套损失函数和训练器。 论文称，这些阶段都能在同一个基于似然的算法下运行。但实验规模较小，作者也表示尚未找到在各类场景下都最优的数据配比或训练顺序。
AI 根据报道生成 · 1 天前更新
最新进展11月1日 04:33
CMU 等提出用单一算法统一基础模型各训练阶段报道时间线
沿着报道，了解事件的不同侧面。
11月1日
- elvis (X)CMU 等提出用单一算法统一基础模型各训练阶段
CMU 等机构论文提出 unified training，把预训练、中训练、SFT 和 RL 放进同一个基于似然的算法，将合适的 RL 目标视为对模型生成目标的最大似然拟合，使 RL 生成与静态数据共用一套损失和训练器。
10月31日
- Rohan Paul (X)卡内基梅隆大学论文提出用单一算法统一基础模型训练
卡内基梅隆大学论文提出，预训练、微调与 RL 可以共用一套基于似然的训练规则，把各阶段数据按比例混合往往优于分阶段训练。作者将一种名为 MaxRL 的 RL 形式重新表述为对模型自身正确答案的似然训练，使单个训练器能按任意比例混合预训练文本、精选数据和 RL 样本。
本事件热度走势
- 可比范围当前
- 5
- 可比范围峰值
- 1511月1日 05:00
- 近 24 小时变化
- -67%
051015
12:0011月1日12:0011月2日
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。