OpenAI 用 GPT-Red 训练模型：让大语言模型自己当黑客，提升安全防御

OpenAI 正在用大语言模型来训练大语言模型，只不过这次的角色是“黑客”。

发生了什么

据 MIT Technology Review 报道，OpenAI 构建了一个名为 GPT-Red 的 LLM 超级黑客，专门用于与自家其他模型进行攻防对抗训练。上周，OpenAI 发布了旗舰模型 GPT-5.6，并声称通过与 GPT-Red 的对抗训练，该模型成为其迄今为止最稳健的版本。GPT-Red 能够自动化地发起攻击，帮助模型发现并修复安全漏洞。

为什么重要

传统上，AI 模型的安全测试主要依赖人工红队（red teaming），即由安全专家手动尝试攻破模型。这种方法耗时且难以规模化。GPT-Red 的出现意味着安全测试可以自动化、持续化，并且能够覆盖更广泛的攻击面。OpenAI 将 GPT-Red 视为一个“陪练伙伴”，在模型训练阶段就引入对抗压力，从而在发布前就提升防御能力。这种做法类似于对抗生成网络（GAN）中的生成器与判别器，但应用在了大语言模型的安全领域。

此外，GPT-5.6 的发布本身也值得关注。作为 OpenAI 的最新旗舰，其安全性提升直接关系到用户信任和实际部署风险。如果 GPT-Red 确实有效，那么它可能成为未来 LLM 安全训练的标配工具。

影响与看点

对行业而言，GPT-Red 展示了一种新的安全范式：用 AI 对抗 AI。其他公司可能效仿，开发自己的红队 LLM，从而推动整个行业的安全标准提升。对开发者来说，这意味着未来调用 API 时，模型可能天然具备更强的抗攻击能力，例如更难被提示注入或越狱。对用户而言，更稳健的模型意味着更少的安全事故，但也可能带来更严格的输出限制。

值得关注的是，GPT-Red 本身也是一个强大的 LLM，其能力是否会被滥用？OpenAI 如何确保 GPT-Red 本身的安全？此外，对抗训练是否会在某些场景下导致模型过度保守，影响正常功能？这些都是后续需要观察的点。

独立判断：GPT-Red 是 LLM 安全领域的一个里程碑，但“用黑客训练防御”的循环一旦开启，未来模型之间的攻防竞赛可能成为常态。