DeepSeek把自家模型背后的推理引擎交了出来,但交出的是一份有明确边界的答卷。
发生了什么
DeepSeek 开源了 DeepInfer,采用 Apache 2.0 许可证。据 MarkTechPost 报道,这套框架正是 DeepSeek-V4.1-Flash 在生产环境中实际使用的推理框架。它的硬件目标很明确:NVIDIA SM100 GPU 与华为昇腾 950 NPU 两条路线。同时,官方说明当前版本只提供离线推理(offline inference),不包含在线服务所需的能力。
为什么重要
大模型厂商开源模型权重已不新鲜,但开源推理框架是另一回事。权重决定模型能做什么,推理框架决定这些能力以什么成本、什么延迟、在什么硬件上落地。DeepSeek 把生产环境在用的那一套放出来,等于把“模型如何真正跑起来”这一层经验也公开了。
更值得注意的是硬件名单。SM100 是英伟达新一代架构,昇腾 950 是华为的新一代 NPU,一个框架同时把两者作为一等目标,说明 DeepSeek 的工程栈从设计之初就没有把自己绑在单一生态上。对国内开发者而言,这意味着国产算力在头部模型的生产路径中不再只是“适配选项”,而是并列的部署目标。
Apache 2.0 的选择也值得留意:这是商业友好度最高的许可证之一,允许修改与再分发,降低了企业把它嵌进自有基础设施的法律摩擦。
影响与看点
对开发者,最直接的价值是获得一份经过真实流量检验的参考实现,而不是从论文和博客里拼凑推理优化技巧。对做私有化部署的团队,双硬件支持意味着选型时多了一条可验证的路径。
但“仅离线推理”这个限制必须说清楚。离线推理通常面向批量任务、数据生成、评测等场景,不涉及在线服务的调度、弹性扩缩、多租户隔离等工程问题。换句话说,这次开源覆盖的是推理链路中相对可复现的那一半,服务化那一半仍留在厂商内部。想直接拿它搭建在线 API 服务的团队,需要自己补齐这一层。
另一个待观察的点是生态成熟度:昇腾路径的算子覆盖、性能调优深度、社区文档是否跟得上英伟达路径,将决定这次开源对国产算力生态的实际拉动有多大。
我的判断是:DeepInfer 的意义不在于又一个推理框架,而在于 DeepSeek 用行动表明,头部模型厂商的竞争正从模型能力延伸到“模型+框架+多硬件”的完整交付栈。开源这一层,既是技术自信,也是生态卡位。



