当“AI 可能灭绝人类”成为部分实验室的公开信条时,另一群每天与模型打交道的人并不买账。
发生了什么
Hacker News 上出现一条题为《Not all AI workers think the tech could kill everyone》的讨论,摘要仅显示 14 points,没有展开具体内容。从标题可以推断:有 AI 从业者公开或私下表达了对“AI 生存性风险”叙事的保留态度。讨论本身热度不高,但触及了一个持续存在的张力——在 AI 安全话语日益占据中心位置的同时,一线工程师、研究员和产品开发者对“灭绝论”的认同度并不一致。
为什么重要
过去几年,AI 安全讨论被少数头部实验室和有效利他主义社群主导,生存性风险(x-risk)成为政策辩论和公众想象的关键词。但 AI 行业远不止这几家实验室。大量从业者分布在应用层、开源社区、中小公司和传统企业的 AI 团队,他们的日常工作是调参、部署、修 bug、应对合规,而不是推演超级智能的失控路径。
这种认知分裂并非无足轻重。它直接影响安全研究的资源分配、监管政策的合法性基础,以及公众对 AI 风险的感知。如果“AI 会杀死所有人”被当作行业共识来传播,而实际从业者并不认同,那么基于这一前提制定的规则可能脱离工程现实,甚至引发反弹。反过来,如果一线声音被完全忽略,安全讨论就容易变成少数人的内部循环。
影响与看点
对开发者和研究者而言,这条讨论的价值不在于站队,而在于提醒:AI 风险的谱系远比“灭绝”或“无风险”二元对立复杂。短期风险——偏见、误用、就业冲击、信息生态恶化——对一线工作者来说更具体、更可操作。长期风险则涉及概率判断和价值选择,本就不该要求所有人达成一致。
值得关注的是,这种分歧会如何影响人才流动和开源生态。如果安全文化在某些组织内被强加为身份认同,部分工程师可能选择离开或保持沉默,反而削弱了安全讨论的多样性。一个健康的行业需要能容纳“我不确定 AI 会杀死所有人,但我认真对待具体危害”的中间立场。
独立判断:把生存性风险当作 AI 从业者的默认共识,既不符合事实,也不利于建立真正有韧性的安全治理。


