AI风险并非遥远假设，而是内部人士正在严肃评估的现实概率。

发生了什么

The Decoder报道，Anthropic研究员Evan Hubinger在一次讨论中表示，未来十年内，一个未对齐的超级智能AI导致人类灭绝的概率超过10%。与此同时，曾在OpenAI和Anthropic从事预训练研究的Jacob Coxon已辞职，并公开指责这两家公司明知存在灭绝级风险却仍继续推进。这些言论并非来自外部批评者，而是来自AI实验室内部的科学家，使得这一警告具有特殊分量。

为什么重要

Hubinger和Coxon的立场并非孤例。近年来，AI安全研究逐渐从边缘走向主流，但像这样由在职或近期离职的核心研究人员给出明确概率估计，仍属罕见。10%的概率意味着，即使按最保守的估计，这一风险也远高于航空或核能等高风险行业可接受的水平。

Coxon的指控更为直接：他认为OpenAI和Anthropic在明知潜在后果的情况下，仍选择加速AI能力发展，这无异于拿人类未来赌博。这种内部声音的出现，反映了AI领域在商业化压力与安全考量之间的深层张力。当一线研究者宁愿放弃高薪职位也要公开表达担忧时，行业需要认真对待。

影响与看点

对于AI开发者而言，这一事件可能促使更多团队将安全对齐研究置于优先位置。对于政策制定者，它提供了推动监管的又一论据。公众层面，此类内部警告可能加剧对AI技术的信任危机，但也可能推动更透明的风险沟通。

值得关注的是，Anthropic本身以安全为使命，其内部仍存在如此高的风险估计，说明安全对齐问题尚未有根本性解决方案。未来，我们可能看到更多研究人员效仿Coxon，或在公司内部建立更正式的安全审查机制。

独立判断：当核心研究者给出超过10%的灭绝概率时，行业应将其视为行动信号，而非理论探讨——毕竟，即使概率是1%，也不应被轻易接受。