DeepMind新论文：道德论证训练提升一致性但易被说服

Google DeepMind 发布新论文，用强化学习自评判锦标赛训练模型就道德困境展开论证。据该论文，模型在 MoralChoice、ELEPHANT 和 MORABLES 三个基准上对选项顺序更一致，但用户反驳或重新表述问题仍会改变其答案。 这意味着训练提升了答案对选项排列的稳定性，并未消除模型在对话压力下改变道德判断的脆弱性。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。