奥特曼把AI安全的终局摊开讲了——三条路,其中一条是他自己都不愿选的。

发生了什么

据 The Decoder 报道,OpenAI CEO Sam Altman 在一次内部演示中,为“如何让AI安全落地”列出了三种终局设想:

  1. 国际监管路线:参照国际原子能机构(IAEA)的模式,建立一个跨国监督机构,对前沿AI的开发与部署进行约束。
  2. 合并路线:把几家主要实验室整合为单一实体,由内部治理取代外部竞争。
  3. 单极路线:出现一家强大到可以关停其他所有公司算力的企业——报道用“熔掉别人的GPU”来形容这种能力。

Altman 本人对第三种方案的评语是“terrible”(很糟糕)。这一点值得注意:他描述的不是一个理想方案,而是一个被推演出来、然后被否定的极端情形。

为什么重要

这三条路径的价值不在于哪条会被采纳,而在于它们暴露了前沿AI治理的结构性困境。

IAEA 模式的前提是:核材料可计量、设施可核查、国家是唯一行为体。而算力与模型权重既难以清点,也容易跨境流动,行为体还包括商业公司。照搬这套框架,落地难度远高于类比本身的说服力。

合并路线则把“安全”寄托于少数决策者的自律,代价是抹掉了竞争对透明度和成本的压力。至于单极路线,它本质上是用集中化换取可控性——而 Altman 自己承认这条路不可接受,说明业界对“谁来当那个单极”并无共识,任何一家坐大都会被其余各方视为威胁。

把这些选项摆上桌,本身也反映出一个现实:前沿实验室在讨论安全时,已经无法回避权力分配问题,而不只是技术对齐问题。

影响与看点

对开发者和企业用户而言,最直接的含义是:监管形态将决定模型能力的获取门槛。若走向国际机构授权制,API 准入、算力采购、模型微调都可能被纳入许可体系;若走向合并或单极,议价空间则取决于你站在哪一边。

值得继续观察的几点:这类内部推演是否会转化为公开的政策主张;OpenAI 在各国监管磋商中的具体立场是否与这三条路径对应;以及“算力可被单方关停”这一假设,会不会反过来推动各方加速自建算力与开源替代。

一个克制的判断:当一个行业开始公开讨论“谁来当最后裁判”,说明它已经意识到技术问题之外,治理设计的窗口正在收窄。