一位刚从Anthropic离职的研究员发出严厉警告：AI安全已进入“人类的关键时刻”。这并非危言耸听，而是来自行业内部的清醒声音。

发生了什么

Jacob Coxon，一位刚从Anthropic离职的研究员，向WIRED透露了公司内部的一个被称为“迷你曼哈顿计划”的绝密项目。该项目旨在解决AI对齐问题——即如何确保AI系统的行为符合人类意图。Coxon表示，AI实验室只剩下几年的时间来确保其系统安全，否则可能面临失控风险。他的离职并非因为项目失败，而是出于对当前进展速度和方向的深切担忧。

为什么重要

AI对齐是人工智能领域最核心的挑战之一。随着模型能力指数级增长，确保它们不会产生有害行为变得愈发紧迫。Anthropic作为领先的AI安全公司，其内部项目被比作“曼哈顿计划”，凸显了问题的严重性和资源投入的规模。Coxon的警告并非孤例，越来越多的研究人员开始质疑当前对齐研究的有效性。他的离职可能反映了内部对技术路线或优先级的分歧，也揭示了整个行业在安全与能力竞赛之间的紧张关系。

影响与看点

这一事件对行业、开发者和用户都有深远影响。对于AI实验室，它可能促使更多内部反思和透明度提升，甚至引发人才流动。对于开发者，这意味着在依赖AI系统时，需要更谨慎地评估风险，并关注对齐研究的最新进展。对于用户，它提醒我们，AI的快速发展伴随着不确定性，监管和伦理讨论刻不容缓。值得关注的是，Coxon的下一站会去哪里，以及他是否会带来更公开的倡议。我的独立判断是：对齐问题不会自动解决，它需要整个社区的合作，而不仅仅是少数实验室的内部努力。