把 MoE 内核从“能跑推理”推进到“能训练”，是这次更新真正的分量所在。
发生了什么
Prime Intellect 发布了 Prime Mega MoE，为 DeepSeek 的融合 Mega MoE 内核实现了反向传播。原本这个内核主要面向推理路径，缺少训练所需的梯度计算能力；补上 backward pass 之后，内核变得可训练。据其披露，前向传播速度提升 3.11 倍，在自家的 prime-rl 强化学习框架中，Qwen3 MoE 的训练步最高提速 34%。
需要说明的是，这些数字来自官方口径，且 34% 是特定框架、特定模型下的训练步加速，不宜直接外推为通用训练吞吐提升。
为什么重要
MoE 已经成为主流大模型的结构选择，但它的工程难点不在参数量，而在“路由 + 专家计算”带来的访存与调度开销。融合内核（fused kernel）的思路是把原本分散的多个算子合并，减少中间结果的读写和内核启动开销，这正是 DeepSeek 那套 Mega MoE 内核的价值所在。
问题在于，推理只需要前向，训练需要前向加反向。一个只有前向的优化内核，对做后训练、强化学习、微调的团队来说价值有限——你可以在部署时享受加速，却无法在训练回路里用上它。Prime Intellect 补的正是这块缺口：让同一个高性能内核同时服务于训练。
这对强化学习尤其关键。RL 训练的特点是反复前向采样、再反向更新，前向占比高、迭代频繁，任何前向侧的加速都会被放大。34% 的训练步提速放在这个语境下就不难理解。
影响与看点
对开发者而言，最直接的意义是 MoE 微调与 RL 训练多了一个可用的底层选项，尤其是已经在用 prime-rl 或类似 RL 框架的团队。对行业而言，这是一次典型的“开源内核补全”：DeepSeek 放出高性能内核，社区在其上补齐训练能力，形成分工。
值得关注的几点：一是加速比在不同序列长度、不同专家并行配置下是否稳定，官方数字之外的边界条件更重要；二是反向实现的数值稳定性与显存占用，训练场景的约束远比推理苛刻；三是这类内核优化能否沉淀为通用组件，而不是绑定单一框架。
一个独立判断：MoE 的竞争正在从“模型结构创新”下沉到“内核与训练系统”，谁能让同一套内核在推理和训练两端都跑满，谁就掌握了实际的成本曲线。
