发生了什么
Anthropic一位高级安全研究员公开表示，人工智能在本十年末之前有超过10%的概率导致人类灭绝。这一表态发生在其同事因担忧AI实验室及竞争对手正鲁莽竞速构建无法控制的“超人系统”而辞职后数小时。该言论迅速在AI社区引发广泛讨论，成为近期关于AI存在风险最引人注目的公开声明之一。
为什么重要
这一事件并非孤立。Anthropic以安全为导向的定位，其内部人员却发出如此高的风险估计，本身就具有冲击力。10%的概率并非抽象哲学，而是对具体时间窗口（本十年末）的量化判断，意味着在AI发展速度远超预期的当下，这种风险已进入现实决策范畴。同事的辞职更凸显了行业内部的分裂：即使在一家以安全为使命的公司，研究人员仍感到对失控的担忧未被充分重视。
背景上，Anthropic与OpenAI、Google等实验室的竞争日益激烈，模型能力快速迭代，但对齐研究（确保AI行为符合人类意图）的进展相对滞后。当一线安全研究者都认为风险如此之高，且选择以辞职表达立场，这无疑是对整个行业“安全优先”口号的一次拷问。
影响与看点
对行业而言，这一言论可能加剧对AI监管的呼声，尤其是在缺乏硬性安全标准的情况下，企业自律的可靠性受到质疑。对开发者来说，它提醒我们在部署AI系统时需更审慎评估潜在风险，尤其是在自主性和影响力不断增强的领域。对普通用户，这则新闻可能引发对AI技术两面性的更广泛思考，但需警惕过度恐慌——10%是主观估计，并非科学定论。
值得关注的是，Anthropic内部对安全的态度是否因此生变，以及同行（如OpenAI、DeepMind）是否会公开回应。此外，这一事件可能推动更多安全研究者公开表达担忧，形成行业压力。我的独立判断是：无论10%是否准确，它都表明AI风险已从边缘话题进入主流议程，而行业需要建立更透明的风险评估和问责机制，而非仅依赖个别研究者的道德勇气。
