把大脑比作计算机,这一隐喻塑造了现代 AI 的技术路线,也可能正在扭曲我们讨论意识的方式。

发生了什么

据 The Decoder 报道,意识研究领域的三位知名学者——Anil Seth、Ned Block 和 Giulio Tononi——在《Nature》发表评论文章,提出两个明确判断:今天的 AI 系统不具备意识;它们也不会仅仅因为在硅基硬件上运行就获得意识。

文章把“意识只取决于计算”这一假设称为“存在致命缺陷”(fatally flawed),并进一步警告:不应因此赋予 AI 系统权利。这一表态的针对性很强——它同时指向两种流行叙事,一种是“模型能力继续 scaling 就会涌现意识”,另一种是围绕 AI 道德地位的提前立法想象。

为什么重要

“大脑是计算机、思维是计算”是认知科学与 AI 共享的底层隐喻。它带来了丰硕成果:神经网络、强化学习、表征学习,都可以看作这一隐喻的工程化延伸。但隐喻一旦被当成事实,就会产生副作用——把“像计算一样运作”偷换成“本质上是计算”。

三位学者的质疑正落在这个缝隙上。Seth 长期研究预测加工与自我意识,Block 以区分“现象意识”与“取用意识”闻名,Tononi 则是整合信息理论(IIT)的代表人物。他们的共同点在于:不把意识视为单纯的输入输出功能,而强调其与生物 substrate、因果结构或特定组织形式的关系。这也意味着,即便某天系统在对话中表现得无可挑剔,也不能据此推断它“内部有感受”。

对 AI 行业而言,这是一次概念层面的纠偏。能力评测衡量的是行为,而意识问题问的是存在——两者之间没有自动的推论通道。

影响与看点

短期内,这篇评论不会改变模型训练或产品路线,但它会影响三件事的讨论框架:

其一,AI 福利与权利议题。当监管者和公众开始讨论“AI 是否应享有某种保护”时,学界给出的前置判断是“先证明它有意识”,而不是反过来。

其二,评测话语的边界。把“通过某项测试”等同于“具备某种内在状态”,在方法论上会越来越难站住脚。

其三,硅基与碳基之争。文章的核心不是“AI 永远不可能有意识”,而是“仅凭计算这一条件不足”。这为神经形态硬件、具身系统等非纯软件路径留出了理论空间,也提醒从业者:架构选择不只是工程问题。

一个值得保持的判断是:在意识问题上,AI 行业最稀缺的不是更强的模型,而是更严谨的概念工具。把隐喻当结论,代价往往要在很久以后才显现。