强化学习后训练的成本,正在从“算法好不好”转向“token 烧不烧得起”。Perplexity 与 NVIDIA 的研究者给出的答案是:让模型自己教自己。
发生了什么
据 MarkTechPost 报道,Perplexity 与 NVIDIA 的研究者联合提出了一种名为 JOLT 的后训练方法,核心思路是“联合师生强化学习”——同一个模型在训练中同时承担教师和学生的角色,而不是依赖一个独立、通常更大的教师模型来提供监督信号。
报道给出的关键结果是:在 MATH 数学推理基准上,JOLT 达到了与 GRPO(Group Relative Policy Optimization,当前主流的 RL 后训练方法之一)相当的准确率,但处理过的训练 token 数量约为后者的 1/6.5。换句话说,同等效果下训练开销显著下降。
为什么重要
GRPO 之所以流行,是因为它绕开了 PPO 需要单独价值网络的负担,用组内相对比较来估计优势,实现简单、效果稳定,已经成为不少开源推理模型后训练的标准配置。但它的代价也很直接:每个问题要采样多条回答做组内比较,token 消耗随采样数线性上升,训练越长越贵。
JOLT 的切入点正是这块成本。让模型自身兼任教师,意味着不必再维护一个额外的强教师模型来生成高质量监督,也减少了“教师信号与学生能力不匹配”的常见问题。而 6.5 倍的 token 效率提升,如果能在更多任务上复现,对算力预算有限的团队意义不小——后训练的门槛可能因此下移。
需要克制看待的是:目前公开信息只覆盖 MATH 这一项基准,方法在代码、通用对话、长链推理等场景是否同样成立,尚待验证;token 减少也不等于墙钟时间和显存占用等比例下降。
影响与看点
对开发者而言,最直接的价值是“同样的卡,能多跑几轮实验”。RL 后训练长期是大厂的游戏,采样成本高、调参周期长;如果自蒸馏式的师生合一能稳定工作,中小团队做领域微调的空间会变大。
对行业而言,这条路线延续了近期的整体趋势:后训练的效率竞赛已经和预训练的效率竞赛并驾齐驱。从 GRPO 到 DAPO、GSPO 一类的工作,大家都在削减 RL 的冗余计算,JOLT 把“教师”这一环也纳入了优化对象。
值得关注的三个点:一是复现情况,尤其是 MATH 之外基准上的表现;二是“自任教师”是否会带来自我强化偏差,即学生把教师的错误一并学走;三是 Perplexity 与 NVIDIA 的合作本身——前者有推理产品的真实负载,后者有算力与工程栈,这类组合产出的方法往往更容易落地到生产。
一句判断:JOLT 目前更像一个高性价比的效率信号,而非范式颠覆;但在 RL 后训练普遍“烧 token”的当下,效率本身就是竞争力。



