OpenAI再次调整其安全架构,但这次不是新增部门,而是解散。

发生了什么

据《金融时报》报道,OpenAI在上月底悄然解散了其“准备团队”(Preparedness Team)。该团队成立于2023年10月,由时任首席科学家Ilya Sutskever和人工智能对齐研究员Jan Leike共同领导,旨在评估前沿模型可能带来的严重风险(如网络攻击、生物威胁等),并制定缓解措施。团队解散后,其职责被拆分并整合到OpenAI的其他部门,但具体如何分配尚不清楚。OpenAI未对此事发表公开声明,仅通过内部备忘录向员工通报。

为什么重要

“准备团队”的解散并非孤立事件。早在2024年5月,该团队联合负责人Jan Leike便宣布离职,并在社交媒体上公开批评OpenAI“将闪亮的产品置于安全之上”。此后,团队虽继续运作,但影响力已大不如前。此次彻底解散,标志着OpenAI内部独立的安全评估职能进一步弱化。

这一变动发生在OpenAI加速商业化、频繁发布新模型(如GPT-4o、o1系列)的背景下。安全团队的边缘化可能反映了一种趋势:在激烈的AI竞赛中,企业更倾向于将资源投入能力提升和产品迭代,而非风险防范。此外,OpenAI曾承诺将投入20%的计算资源用于安全研究,但实际执行情况一直受到外界质疑。解散专门团队,无疑加剧了这种不信任。

影响与看点

对于AI行业而言,OpenAI的安全架构调整具有风向标意义。一方面,它可能引发其他实验室效仿,进一步削弱行业对AI风险的集体关注;另一方面,监管机构可能会因此加强对AI企业的安全审查,尤其是在欧盟《人工智能法案》即将实施的背景下。

对于开发者和用户,安全评估的分散化可能导致模型发布前的风险披露不够透明,用户需要更加警惕模型可能带来的潜在危害。同时,这也提醒我们,AI安全不能完全依赖企业自律,需要外部监督和行业标准的建立。

值得关注的是,OpenAI是否会在未来重新组建类似团队,或者其安全研究将如何以新形式继续。此外,核心安全研究人员的动向也值得追踪——他们的去留往往能预示公司的战略方向。

独立判断:解散“准备团队”是OpenAI在安全与速度之间做出的又一次明确取舍,但长期来看,这种取舍可能损害其公信力,并倒逼监管介入。