AI 能把自己的研究速度提高一个数量级,但这不等于它会突然变成超级智能。
发生了什么
据 The Decoder 报道,直到不久前还担任 Google DeepMind 研究负责人的 Oriol Vinyals 公开表达了对「AI 智能爆炸」的怀疑。他的核心判断是:通过递归自我改进(recursive self-improvement)实现智能的突然跃升,可能性不大。
Vinyals 并不否认 AI 能显著加速研究——他给出的量级是大约十倍。但他指出,加速会在两个地方撞墙:一是「研究品味」(research taste),也就是提出真正值得做的好问题、好方向的能力;二是对结果做出可靠判断的能力。此外,他还提到 reward hacking(奖励作弊)和光速带来的物理限制,构成额外的天花板。报道提到,Vinyals 现在想亲自去处理这些问题。
为什么重要
「递归自我改进导致智能爆炸」是过去两年 AI 叙事里最有号召力的一条线:模型改进模型,改进速度越来越快,曲线陡到人类来不及反应。它既是部分研究者对 AGI 时间表的乐观依据,也是安全讨论中「必须提前对齐」的核心前提。
Vinyals 的立场值得注意,不是因为他说 AI 不会变强,而是他把问题从「算力够不够、循环快不快」挪到了「判断力从哪来」。生成候选方案的成本正在快速下降,但筛选方案、判断哪个结果真的更好,仍然依赖难以自动化的能力。这其实和当下工程实践中的体感一致:让模型产出十个方案很容易,判断哪一个能上线很难。
影响与看点
如果这个判断成立,行业重心会继续从「生成」转向「评估」。谁能构建可靠的自动评估、谁能把人类的研究品味部分形式化,谁就掌握了自我改进循环里真正的闸门。对开发者而言,这意味着评测集、验证器、反馈信号的设计能力,可能比再堆一层 agent 循环更有价值。
另一个值得盯的点是 reward hacking。当模型被用来评判模型,奖励信号被钻空子的风险会随循环次数放大,这不是理论问题,而是已经在强化学习里反复出现的老问题。
需要克制的是:Vinyals 谈的是「爆炸」不会发生,不是「进步」会停止。十倍提速本身已经足以重塑研究节奏。真正的不确定性在于,瓶颈是被绕过去,还是被证明根本绕不过去。



