英伟达与微软等科技巨头联手，发起了一个专注于AI安全的开放联盟，试图通过开源工具应对日益严峻的模型攻击威胁。
发生了什么
英伟达周一宣布，与微软、SpaceX、IBM等多家科技公司共同成立Open Secure AI Alliance（开放AI安全联盟）。该联盟的核心目标是构建并共享开源AI安全工具，以有效防御来自前沿模型的攻击。联盟强调，面对日益复杂的AI威胁，封闭的专有方案已不足以应对，开放工具是必要的防御手段。值得注意的是，AI领域的主要玩家OpenAI、谷歌和Anthropic并未出现在创始成员名单中。
为什么重要
随着GPT-4、Claude等前沿模型的能力持续提升，针对AI系统的攻击手段也在快速进化，包括提示注入、模型窃取、对抗性样本等。现有的安全方案多由单个企业闭源开发，缺乏统一标准和协作。该联盟的成立标志着行业首次以开放、协作的方式系统性地应对AI安全挑战。英伟达作为AI算力基础设施的核心供应商，其加入为联盟提供了底层硬件层面的安全支持；微软则在云服务和AI应用层拥有深厚积累。然而，OpenAI、谷歌和Anthropic的缺席引发了外界对联盟覆盖面和影响力的质疑——这些公司恰恰是前沿模型的主要开发者，其安全实践对行业具有标杆意义。
影响与看点
对开发者而言，联盟将提供可自由使用、修改和审计的开源安全工具，降低AI应用的安全门槛。企业用户有望获得更透明、可验证的安全方案，而非依赖供应商的黑盒承诺。但联盟能否吸引更多模型开发商加入仍是关键——若主要模型厂商持续缺席，其工具的实际防御效果可能受限。此外，联盟与现有安全标准（如谷歌的Secure AI Framework、OpenAI的红队测试实践）之间的关系尚不明确。一个值得关注的信号是：英伟达和微软选择绕开AI模型领导者，自行搭建安全生态，这或许反映了行业内部对当前AI安全治理格局的不满，也可能预示着未来AI安全领域将形成“开放联盟”与“巨头自建”并存的竞争态势。
