当造AI的人自己说"这可能毁灭人类"，这句话该被当成警告，还是当成营销？
发生了什么
MIT科技评论做了一期圆桌讨论，主题直白：Will AI really kill us all?（AI真会杀死我们所有人吗？）。参与对话的是该刊执行主编 Niall Firth、资深AI编辑 Will Douglas Heaven 和AI记者 Grace Huckins。讨论的起点是一个值得注意的现象：全球领先AI实验室的内部员工，正在公开表示先进AI存在毁灭人类的"真实可能性"。圆桌要回答的问题有两个——他们说得对吗？还是这更像一轮恐慌与炒作？
为什么重要
这件事的分量不在于"AI会不会杀人"这个科幻式提问，而在于提问者是谁。发出警告的不是外部批评者，而是身处研发一线的人。当风险叙事从行业内部流出，它就不再只是舆论话题，而会反向影响实验室的自我约束、监管者的议程设置，以及公众对这项技术的信任基线。
另一层背景是，"存在性风险"话语在过去几年里已经从边缘议题进入主流讨论，甚至成为部分公司治理结构和安全团队存在的理由。这带来一个尴尬的张力：同一批最积极推动能力边界的人，也是最积极谈论末日场景的人。批评者因此怀疑，末日叙事是否在客观上为"只有我们才配做这件事"提供了正当性。MIT科技评论选择用圆桌而非单篇评论来处理，本身就说明这个问题没有单一答案——支持严肃对待的理由和怀疑其炒作成分的理由，都站得住脚。
影响与看点
对开发者和从业者来说，这场讨论的实际价值不在结论，而在它划出的几条观察线。
第一，区分"风险类型"。把"模型被滥用""系统性失控""对齐失败""存在性风险"混为一谈，是当前公共讨论最大的噪音来源。不同风险对应完全不同的缓解手段，也对应不同的紧迫程度。
第二，注意话语与利益的纠缠。判断一个警告是否可信，除了看论据，也要看谁在说、说了之后能获得什么。这不意味着警告是假的，而是意味着它需要被更严格地检验。
第三，关注安全团队在实验室内部的真实处境。风险叙事能否落地为具体的评估流程、发布门槛和红线，比公开表态更能说明问题。
我的判断是：把"AI会毁灭人类"当成确定预言是轻率的，把它当成纯粹的营销话术同样轻率。更务实的姿态是承认不确定性真实存在，同时要求提出警告的一方给出可检验的中间指标——而不是只在两端之间来回摆动。
