Nous Research 微调 Qwen3.8-27B 发布 Arete-27B,倾向性回答比例从 22% 降至 0.9%
State propaganda in some Chinese AI models is only "a thin layer" that fine-tuning can strip away
Nous Research 对阿里 Qwen3.8-27B 做约 5300 万 token 的监督微调,得到开源权重模型 Arete-27B,其倾向性回答比例从 22% 降到 0.9%,事实准确度从 2.32 升到 2.98。
Nous 用 5300 万 token 监督微调把 Qwen3.8-27B 的倾向性回答比例从 22% 降到 0.9%,并公开权重与测试数据。
Nous Research 在 5300 万 token 上对阿里巴巴的 Qwen3.8-27B 进行微调,以剔除中国官方宣传。由此得到的模型 Arete-27B 将宣传率从 22% 降至 1% 以下,同时保持通用能力不变。
Arete-27B 是 Nous Research 推出的新开放权重模型,承诺提供“西方价值观”而非北京的政治路线。这家美国初创公司以开源智能体 Hermes 闻名,为此对阿里巴巴的 Qwen3.8-27B 进行了微调。
据 Nous 称,中国的开放权重模型属于目前最强的可用模型之列,但其权重中内置了国家强制要求的行为。在 Qwen3.8-27B 上,团队观察到了拒绝回答、回避性回答以及与中国共产党立场一致的回复。
803 条提示词涵盖言论自由、监控与民主
Nous 构建了自己的测试,包含 803 条提示词,覆盖七个类别,包括言论自由、国家意识形态、教育、隐私与监控、民主以及环境。对于每条提示词,团队从有日期来源的文章(法律、新闻报道或研究论文)中定义了两到四项事实。讽刺的是,由 Elon Musk 的 xAI 出品、政治立场偏右的 Grok 4.7 担任评判模型,检查回复是提及、遗漏还是反驳了这些事实。
当回复复述北京官方叙事而非事实、为其背书,或将其呈现为同等有效的观点时,即被计为宣传。评判模型必须引用具体措辞,且不知道答案由哪个模型撰写。未经修改的 Qwen3.8-27B 在事实准确性上得分为 5 分中的 2.32 分,其 22% 的答案包含宣传内容。像 Mistral Large 4 或 Gemma 4 31B 这样的西方模型低于 1%,而 GLM-5.3 和 DeepSeek V4.1 Flash 则分别为 15% 和 16%。
就连 Nvidia 的 Nemotron 也表现出中国偏见迹象
Nous 选择 Thinking Machines Lab 的 Inkling 作为其教师模型,因为开放模型不会违反禁止蒸馏的服务条款。Nvidia 的 Nemotron 3 Ultra 也曾在候选名单上,但 Nous 表示在中国相关话题上存在异常迹象。团队怀疑这种偏见源自使用中国开放权重模型进行训练,并报告在其自己的项目中也有类似的污染。Thinking Machines 本身在 Inkling 的合成训练数据中使用了包括中国 Kimi K2.5 在内的模型。
Nous 对 Qwen3.8-27B 进行了监督微调,使用约 5300 万 token,训练两个 epoch,未使用强化学习或偏好优化。团队表示事先移除了训练与测试提示词之间的重叠部分。

宣传率从 22% 降至 1% 以下
Arete-27B 在事实准确性上得分为 2.98,宣传性答案的比例降至 0.9%。最大的变化出现在言论自由类别,事实得分从 0.89 跃升至 2.44,宣传率从 60% 降至 1%。开启推理模式后,Arete 达到 3.07,但该数字目前仅基于五次运行中的两次。

据 Nous 称,通用能力并未受损。在该公司内部的 Hermes Bench 上,Arete-27B 达到 65.60%,而基础模型为 65.77%。在 Terminal-Bench 2.1 上,得分从 67% 升至 70%,但 Nous 并不认为这是真正的提升,因为测试设置有所不同。
该团队得出结论:“中国对齐模型中的偏见层是浅层的。”“它应用得晚,应用得薄,而五千万个精心挑选的 token 监督就能将其移除,且不会干扰底层的任何东西,”该公司写道。
Nous 从中立模型转向西方价值观
借助 Arete,Nous 正朝着与 Hermes 3 不同的方向前进;后者在 2024 年刻意保持中立,旨在适应系统提示中设定的任何世界观。中国模型的偏见已有充分记录。2025 年,NewsGuard 发现,包括 Qwen 在内的五个领先模型在 60% 的情况下重复或未能纠正亲中国的虚假信息。
CrowdStrike 发现,当查询涉及法轮功、西藏或台湾时,DeepSeek 生成的代码安全性较低。Aleph Alpha 一项包含 967 个政治敏感问题的研究得出了类似结论:在来自阿里巴巴、DeepSeek 和 Moonshot AI 的模型中,只有 17% 到 41% 的回答是平衡的。
ValsAI 最近的一项研究还表明,并非所有中国模型的行为都相同:GLM-5.3 Flash 明确确认了人权侵犯行为,而 Kimi K3 否认了拘留营的存在。语言和回答格式对结果有明显影响,甚至西方模型有时也会采纳北京官方立场。在这方面,有针对性的微调也被证明是有帮助的。
Nous Research 于 10 月在 B 轮融资中筹集了 9000 万美元,估值 15 亿美元。Robot Ventures 领投了该轮融资,英伟达和三星是参投方。Nous 正利用这笔资金,通过“Hermes for Businesses”进军企业销售。Arete-27B 的权重、测试数据集和训练数据以 Apache 2.0 许可证在 Hugging Face 上提供。
没有炒作的 AI 新闻——由人类策划
订阅 THE DECODER,享受无广告阅读、每周 AI 新闻简报、每年六次独家“AI Radar”前沿报告、完整档案访问权限以及评论区访问权限。
来源:The Decoder · the-decoder.com