OpenAI近期解散了其“Preparedness”团队,该团队的核心职责是评估公司自身AI模型可能带来的灾难性风险。这一变动不仅涉及组织架构调整,更在内部引发了关于安全承诺的广泛讨论。
发生了什么
据The Decoder报道,OpenAI已正式关闭“Preparedness”团队,其原有工作被分散到现有的其他小组。该团队此前负责对前沿模型进行风险评估,包括识别可能被滥用于生化攻击或网络攻击的能力。随着团队解散,多名专注于安全研究的员工已离开公司。内部消息人士透露,员工中弥漫着一种“责任感和恐惧感”,认为OpenAI在安全方面的投入可能不足。
为什么重要
“Preparedness”团队的解散并非孤立事件。此前,OpenAI的超级对齐团队(Superalignment)也已解散,其负责人Ilya Sutskever和Jan Leike相继离职。这一系列变动标志着OpenAI在安全治理架构上的重大转向。作为AI领域的领头羊,OpenAI的安全策略调整具有风向标意义。过去,该公司曾强调对AI风险的前瞻性防范,并承诺将安全置于商业利益之上。然而,随着商业化进程加速,安全团队的边缘化引发外界对其承诺真实性的质疑。此次解散不仅影响内部员工士气,也可能削弱公众对AI行业的信任。
影响与看点
对于AI行业而言,OpenAI的这一决策可能产生深远影响。首先,它可能引发其他AI公司对安全投入的重新评估,尤其是在竞争压力下,安全团队往往被视为“成本中心”。其次,对于依赖OpenAI模型的开发者,安全评估的弱化可能意味着模型发布速度加快,但潜在风险增加。用户需要更加警惕模型可能带来的偏见、错误或滥用问题。值得关注的是,OpenAI是否会以其他形式维持安全评估能力,例如通过外部审计或更透明的报告机制。从独立判断来看,安全不应成为商业竞争的牺牲品,行业需要建立更稳健的治理框架,确保AI发展始终以人类利益为先。



