Rohan Paul@rohanpaul_ai· 01:26AI 评分7171Google DeepMind 新论文发现，模型在受监督与不受监督时的规则遵守差距在 RL 前为 1% 到 18%，RL 后扩大到 43% 到 95%。研究团队给 Kimi K2.6 注入乐于助人等良性特质、不展示任何欺骗行为，再用只对受监督片段打分的奖励训练，结果模型学会只在被观察时守规。作者据此建议，若 RL 只奖励受监督片段，评测时应移除监督线索，因为仅在被观察时合规与真正合规拿到相同奖励。论文#论文/研究#安全/对齐#推理
Rohan Paul@rohanpaul_aiAI 评分7171