OpenAI正在用AI攻击自己的AI，而且效果远超人类。这一做法不仅加速了模型安全测试，更可能重塑AI红队测试的范式。
发生了什么
OpenAI内部开发了一个名为GPT-Red的红队模型，通过自博弈（self-play）训练，使其能够自动寻找其他AI模型的漏洞。在测试中，GPT-Red在84%的场景下成功发起有效攻击，而人类红队成员的成功率仅为13%。这些攻击结果被直接反馈到模型加固中，例如用于强化GPT-5.6 Sol版本。
这一进展意味着AI安全测试从完全依赖人类专家，转向人机协作甚至机器主导。GPT-Red并非简单模仿人类攻击策略，而是通过自我对弈不断进化，发现人类难以想到的漏洞。
为什么重要
传统红队测试依赖安全专家手动尝试越狱或对抗性输入，成本高、速度慢，且受限于人类想象力。随着AI模型能力提升，漏洞的复杂性和隐蔽性也在增加，人类红队越来越难以覆盖所有攻击面。
OpenAI的做法代表了一种自动化红队的新思路：让AI自己成为攻击者。自博弈训练让模型在对抗中学习，从而生成更高效、更多样的攻击策略。这种方法的优势在于可扩展性——一旦训练完成，GPT-Red可以大规模、持续地测试新模型，而人类只需监督和验证。
此外，这一成果也呼应了业界对“AI对齐”的担忧。如果AI能自动发现自身漏洞，那么对齐问题或许能通过类似的自博弈过程部分解决。当然，这也引出一个问题：如果攻击AI比防御AI进化更快，是否会导致更危险的漏洞被利用？
影响与看点
对于AI安全行业，GPT-Red的成功意味着红队测试将迎来自动化浪潮。未来，模型发布前的安全评估可能不再依赖大量人类专家，而是由AI红队完成初步筛选，人类专注于高难度或关键场景。这能大幅缩短测试周期，降低安全成本。
对开发者而言，这意味着需要更关注对抗性训练数据的生成。自博弈红队产生的攻击案例可直接用于改进模型，形成“攻击-防御”的闭环。但也要警惕，这类技术可能被滥用——如果类似GPT-Red的模型落入恶意之手，可能被用于攻击其他AI系统。
值得关注的是，OpenAI并未公开GPT-Red的具体架构和训练细节。这引发了一个行业问题：自动化红队工具是否应该开源？一方面，开源有助于整个社区提升安全性；另一方面，也可能降低攻击门槛。
独立判断：自博弈红队是AI安全从“人工”走向“自治”的关键一步，但人类监督仍不可或缺。未来，AI红队与人类红队的协同作战将成为主流，而如何平衡自动化效率与安全风险，将是行业必须面对的课题。
