一个开源团队用一次监督微调,就让一个中国大模型的“宣传倾向”几乎消失——这比数字本身更值得讨论。
发生了什么
据 The Decoder 报道,Nous Research 以阿里 Qwen3.8-27B 为基础重训出 Arete-27B。测试中,带有亲中倾向的输出比例从约 22% 降至不足 1%,而通用能力在评测中基本保持。方法并不复杂:约 5300 万 token 的监督微调数据。团队对此的判断是,这类政治偏置是“在后期才被加上去的,而且加得很薄”(applied late, applied thin)。
需要说明的是,这些数字来自 Nous Research 自己的测试与表述,第三方复现和更细的评测口径尚未公开,读者应把它当作一个方向性信号而非定论。
为什么重要
这件事的意义不在“某个模型被改造”,而在于它揭示了对齐层的结构特征。如果政治倾向是在预训练之后、通过相对少量的后训练数据“贴”上去的,那么它同样可以被相对少量的数据“撕”下来。这与业界对后训练影响力的普遍认知一致:预训练决定能力底座,后训练决定表达风格与价值取向,而后者往往是可逆的。
对开源模型生态而言,这意味着“模型价值观”不再是发布方单方面锁定的属性。权重一旦公开,任何有算力和数据的团队都能重新定义它的行为边界。开源许可、使用条款与实际可控性之间的裂缝会越来越明显。
影响与看点
对开发者,最直接的启示是:后训练数据的配比与来源,可能比模型选型更决定最终输出风格;做垂直应用时,清洗和重写对齐数据是必要工序,而非可选项。对发布方,这提醒了一个现实——把倾向性写进后训练数据,在开源权重面前只是一种“软约束”。
值得关注的三个点:一是 Arete-27B 的评测是否会被独立复现,尤其是“通用能力无损”这一结论;二是这类“去偏置”微调是否会成为开源社区的常规操作,形成一套方法论;三是模型发布方是否会因此收紧许可或调整后训练策略。
一个独立判断:把价值观当作后训练阶段的“薄涂层”,短期看是效率选择,长期看是把定义权交给了下游。谁掌握微调数据,谁就掌握模型的最终人格。



