英伟达把「开源大模型」和「本地可跑」这两件事,同时推到了 120B 这个量级。

发生了什么

英伟达发布 Nemotron 3.5 Super VL,定位为开源多模态 Agent 模型。核心规格包括:总参数 120B、激活参数 12B 的 MoE 架构,支持 100 万 token 上下文,权重采用 NVFP4 低精度格式,官方称可在单台 DGX Spark 上运行。同期还发布了两款面向边缘侧的 Bolt 模型。

需要说明的是,上述参数来自厂商公布的信息,实际推理速度、显存占用与多模态任务表现仍需第三方评测验证。

为什么重要

这组数字背后有三条值得注意的线索。

第一是 MoE 的稀疏化路线。120B 总量、12B 激活,意味着每次前向只调用约十分之一的参数。这是当前开源模型在「能力上限」与「推理成本」之间最主流的折中方式,也让 120B 级模型第一次有了在单机部署的现实可能。

第二是 NVFP4。这是英伟达主推的 4 位浮点格式,把权重压到极低精度,是「单台 DGX Spark 跑 120B」这一说法成立的关键前提。换句话说,模型规格本身就是围绕自家硬件栈设计的——开源的是权重,绑定的是生态。

第三是多模态 Agent 的定位。不是单纯的视觉问答模型,而是面向工具调用、长上下文任务编排的 Agent 基座。100 万 token 上下文在这个场景下不是炫技,而是让模型能一次性吞下整个代码库、长文档或长会话历史。

影响与看点

对开发者而言,最直接的变化是:过去需要多卡集群才能承载的模型规模,现在被压缩到一台桌面级设备。这会显著降低本地 Agent 应用的试错成本,尤其是对数据不能出内网的团队。

对行业而言,英伟达的意图相当清晰——用开源权重扩大 Nemotron 系列的使用面,同时让 NVFP4 和 DGX 硬件成为事实上的默认搭配。这是一种「模型开源、硬件收租」的经典打法,与 Meta 的 Llama 路线在开源姿态上相似,但商业落点不同。

几个值得后续观察的点:一是 NVFP4 权重在非英伟达硬件上的可移植性,这决定了它究竟是开放模型还是生态钩子;二是 12B 激活参数在复杂 Agent 任务上是否够用,稀疏化带来的能力损失需要实测数据;三是两款 Bolt 边缘模型的具体定位,目前信息有限,暂不宜过度解读。

一句判断:这次发布的真正卖点不是 120B,而是「120B 能在一台机器上跑」——模型规模竞赛正在让位于部署效率竞赛。