把硬件“编译”进模型权重，而不是让模型去调用硬件——这是 qwenGPU 尝试的方向。

发生了什么

据 MarkTechPost 报道，一个名为 qwenGPU 的项目把一块 4 路 SIMT GPU 编译进 Qwen3.5-2B 模型内部，形式是 45 个未经训练的层。模型在执行时自行写出真实 CUDA 启动的每一个步骤，并把 Gated DeltaNet 的状态当作寄存器与内存来使用。

需要说明的是，这些新增层是“未训练”的，意味着项目重点不在训练一个更强的模型，而在于验证一种结构：让模型的计算过程与 GPU 的执行语义直接对齐。摘要信息有限，具体的正确率、性能开销与实现细节尚未披露，因此对其效果应保持克制。

为什么重要

过去一年，让大模型“写代码”的路线基本是外挂式的：模型生成 CUDA 或 Triton 源码，再由外部编译器与运行时执行。模型对硬件的理解停留在文本层面，无法感知寄存器分配、线程束调度、内存层级这些真实约束。

qwenGPU 的思路是把执行状态内化。Gated DeltaNet 的循环状态天然适合承载“随时间演化的中间量”，这与 GPU 执行中寄存器与共享内存的角色有结构上的相似性。把状态当作寄存器，等于让模型在推理过程中直接维护一份硬件视角的运行现场。

这类尝试属于更宏观的趋势：模型不再只是代码生成器，而是试图成为执行器的一部分。它与“用模型替代编译器某些环节”“神经符号执行”等方向同源，但走得更激进——直接把 GPU 抽象塞进权重空间。

影响与看点

对开发者而言，短期内不必期待用它替代 nvcc 或 Triton。45 个未训练层更像一个结构探针，真正的价值在于它提出的问题：模型能否在不依赖外部工具链的情况下，稳定地产生合法的硬件操作序列？

值得关注的三个点：一是这些未训练层是否会通过后续微调获得实际能力，还是仅作为固定接口存在；二是 4 路 SIMT 这种极小规模设定，能否扩展到真实 GPU 的并行度；三是“模型自写 CUDA 启动”在可验证性上如何保证——硬件执行出错不像文本错误那样容易回滚。

一个独立判断：这类工作的意义目前更多在概念验证与架构启发，而非工程可用性。但它指向的方向值得认真对待——当模型的内部状态开始承担系统级语义，模型与运行时之间的边界会变得模糊，编译器和推理引擎的分工可能需要重新讨论。