当整个行业还在为更大的集群、更多的 GPU 和更长的训练曲线欢呼时,提出“苦涩教训”的那个人站出来说:这条路走不通。

发生了什么

据 The Decoder 报道,图灵奖得主 Richard Sutton 再次强调了他一贯的立场:智能不会仅凭原始算力堆叠而涌现,真正需要的是根本上全新的学习方法。前 OpenAI 研究者 Tworek 对此表示认同,并给出了更尖锐的说法——盲目扩大 Transformer 规模,已经“对一整代科学家的大脑实施了奖励劫持”。报道同时指出,一批新兴创业公司正在押注这一缺口,试图在“算力之外”寻找突破口。

需要说明的是,上述观点属于方向性判断,报道并未给出具体的实验数据或量化结论。

为什么重要

Sutton 的“苦涩教训”原本讲的是:凡是依赖人类知识注入的方法,长期看总会被依赖大规模计算的通用方法击败。过去几年,这条原则几乎成了大模型规模竞赛的理论背书——既然通用计算终将胜出,那么把模型做大、把数据喂多,就是最稳妥的路径。

但 Sutton 这次的表态,实际上是对这种解读的一次纠偏。他所主张的“通用方法”核心在于学习机制本身,而不是把算力灌进同一个架构里反复放大。换言之,被行业当作信条的,可能只是“苦涩教训”的一半。

Tworek 的批评则指向科研生态:当扩大规模成为默认解法,研究议程、评价标准和人才流向都会被单一范式吸走,探索替代路线的动力被系统性削弱。

影响与看点

对开发者而言,短期内最现实的影响不是“停止用大模型”,而是重新评估投入结构:继续在提示工程、微调、推理时计算上加码,与关注新型学习范式,二者并不互斥,但资源分配的逻辑会变。

对行业来说,值得关注的是资本与人才的流向。报道提到已有创业公司在押注“算力之外”的空白,这类公司能否拿出可验证的成果,将决定这轮反思是停留在观点层面,还是转化为实际的技术路线分化。

一个独立的判断是:规模定律在工程上仍然有效,但它解释的是“当前架构下的收益曲线”,而非“智能如何产生”。把前者当成后者,才是真正的苦涩之处。真正值得追踪的信号,不是谁又买了多少卡,而是有没有团队能拿出在小算力下展现新学习能力的实证结果。