英伟达把语音识别也做成了 MoE:一个总参数 30B 级、推理时只激活约 4.3B 的开源权重转写模型,直接对标商业 ASR 的工程指标。
发生了什么
英伟达发布 Nemotron 3.5 Transcribe,这是一个开放权重的语音大模型(speech LLM),核心规格如下:
- 架构:30B 级混合专家(MoE),激活参数约 4.3B;
- 语言覆盖:支持 40 种语言的语音转写;
- 结构化输出:原生给出说话人标签(speaker labels)与词级时间戳(word timestamps),而非只输出纯文本;
- 基准表现:在英语 Open ASR Leaderboard 上报告平均 WER 4.71%。
需要说明的是,上述信息来自官方发布口径与媒体摘要,模型的具体训练数据构成、许可证条款细节、以及各语种的分项 WER,目前公开材料尚未完整展开。
为什么重要
第一,MoE 正在从文本生成蔓延到语音链路。ASR 长期是「小模型 + 专用解码器」的天下,参数量动辄几十 M 到几百 M,追求的是低延迟和低成本。把总参数推到 30B、却只激活 4B,本质是在用稀疏化换取「大模型的语言先验 + 可控的推理开销」。如果这条路走通,ASR 的竞争维度会从「声学模型精度」转向「语言理解能力」——口音、专有名词、中英混说、标点与断句,这些过去靠后处理规则堆出来的东西,可以交给模型本身。
第二,说话人标签和词级时间戳被做进了模型原生输出。这两项在传统流水线里通常要靠额外的说话人分离(diarization)模型和强制对齐(forced alignment)工具拼接,工程复杂度高、错误会级联。原生输出意味着下游的会议记录、字幕、检索、合规审计等场景可以少维护两三个组件。
第三,4.71% 的平均 WER 是一个有分量的信号。Open ASR Leaderboard 的英语平均 WER 是当前开源阵营最常被引用的横向指标之一,这个数字落在第一梯队区间,说明稀疏化并没有以精度为代价。不过平均值会掩盖长尾:噪声、远场、强口音、专业术语这些真实场景的表现,才是决定能否落地的关键。
第四,开源权重 + 英伟达的身份。英伟达在 Nemotron 系列上持续放出开放权重模型,意图很清楚:让开发者在其生态内做微调和部署。对不想把音频送进第三方 API 的团队来说,可自托管的权重本身就是卖点。
影响与看点
对开发者:最直接的价值是流水线简化。一个模型同时给出转写文本、说话人、时间戳,字幕生成和会议纪要类应用的架构可以显著变薄。但要注意 4B 激活参数不等于轻量——显存占用、批量推理吞吐、流式场景下的首字延迟,都需要实测。ASR 是延迟敏感型任务,MoE 的路由开销在实时场景里是否可接受,是第一个要验证的问题。
对行业:如果「大 MoE + 语音」被验证有效,专做 ASR 的小模型厂商会面临定位压力——它们的优势在于极致成本和低延迟,而通用大模型厂商的优势在于语义理解与多任务统一。未来更可能的格局是分层:端侧和实时场景留给小模型,离线高精度、多语种、带结构化标注的场景交给这类大模型。
值得关注的三个点:一是 40 种语言的分项表现,尤其是中文、日语等与英语语系差异大的语种,平均 WER 好看不代表每种语言都能用;二是许可证是否允许商用与再分发,这决定了它能进入多少生产环境;三是能否与下游 LLM 直接串联做端到端的会议理解,而不是把转写当成孤立环节。
一句判断:Nemotron 3.5 Transcribe 的意义不在于刷新某个榜单数字,而在于它把「ASR 是一个独立小模型任务」这个默认假设,换成了「语音是通用模型的一种输入模态」。这个方向的验证成本很高,但一旦成立,语音应用的工程栈会被整体重写。



