当“AI 可能导致人类灭绝”成为行业高管的口头禅时,最该被追问的或许不是这句话是否成立,而是谁在说、为什么现在说。

发生了什么

据 WIRED 报道,长期批评 AI 行业的学者 Timnit Gebru 公开表示,围绕“AI 灭绝风险”的末日论调在很大程度上是“用来分散我们注意力的”。她的核心论点并不复杂:当企业把讨论焦点推向遥远、宏大、难以证伪的生存性风险时,那些正在发生、可以被追责的具体危害——她特别提到自主武器——就被挤出了公共议程。

Gebru 并非泛泛而谈的批评者。她曾因一篇质疑大规模语言模型风险与偏见的论文与所在机构产生冲突并离开,此后创立了独立研究机构,持续关注 AI 的数据伦理、劳动剥削与权力集中问题。她的立场一贯:AI 的危害首先是社会性的、可归属的,而不是科幻式的。

为什么重要

这场争论的关键不在“灭绝风险是否存在”,而在话语权如何分配。

把 AI 风险框定为全人类共同面对的天灾,会产生一个微妙的后果:责任被稀释。没有哪家公司需要为“人类灭绝”负责,但每家公司都需要为训练数据的版权、为模型输出的歧视、为产品被用于监控和武器化负责。末日叙事把后者变成了前者的注脚。

另一层背景是监管。当“生存性风险”成为主流叙事,政策讨论容易滑向对前沿模型的笼统限制,而绕过更具体的问题:军事应用如何约束、自动化决策如何审计、数据劳动如何补偿。Gebru 的批评指向的正是这种议程设置效应——不是反对讨论风险,而是反对用某一种风险覆盖其他所有风险。

影响与看点

对行业而言,这意味着“AI 安全”这个词正在分裂成两套几乎不相容的议程:一套聚焦对齐、失控与前沿能力,另一套聚焦权利、问责与分配。两套议程争夺的是同一批政策注意力、研究经费和公众信任。

对开发者和研究者来说,实际影响体现在日常选择上:你为哪个方向写论文、申请哪类资助、在内部评审中把什么问题列为优先。当“安全”被窄化为对齐问题,偏见评估、红队测试中的社会危害维度、以及模型部署后的问责机制,往往会被降级为次要工作。

对普通用户,这场争论的落点是:你更可能被哪种 AI 伤害?是某个遥远的超级智能,还是招聘筛选、信贷评分、内容审核里已经运行的自动化系统。

一个值得保持的判断是:末日论未必是谎言,但它确实是一种有效的注意力管理工具。真正的问题从来不是“该不该担心 AI”,而是“谁有权定义我们该担心什么”。