OpenAI 的 GPT-6 Astra 在减少幻觉和抵御直接提示注入方面取得了显著进展，但隐藏攻击仍是其软肋，这为日益依赖自主代理的行业敲响了警钟。
发生了什么
据 The Decoder 报道，OpenAI 的 GPT-6 Astra 在内部测试中表现出比前代更低的幻觉率，并能阻止 99.99% 的直接提示注入攻击。然而，当攻击被嵌入 AI 读取的文档中时，模型在 8.5% 的场景下仍会被攻破。相比之下，Anthropic 的 Claude Opus 5 在同一测试中的失败率仅为 4.8%。这些数据表明，即使是最先进的模型，在面对间接提示注入时依然存在明显漏洞。
为什么重要
提示注入攻击是 AI 系统特有的安全威胁，尤其当模型被赋予工具使用权限时，攻击者可能通过恶意文档操纵模型执行非预期操作。GPT-6 Astra 在直接攻击上的高防御率值得肯定，但间接攻击的漏洞暴露了当前 AI 安全范式的局限。随着 AI 代理从聊天机器人走向自动化工作流，处理邮件、合同、网页等不可信数据成为常态，隐藏攻击的风险被急剧放大。OpenAI 和 Anthropic 的竞争不仅在于性能，更在于安全可靠性的较量，而后者正成为企业采用 AI 代理的关键门槛。
影响与看点
对于开发者而言，8.5% 的失败率意味着在涉及敏感操作（如支付、数据删除）的代理场景中，必须叠加额外的人工审核或沙箱机制，而非盲目信任模型自身的安全能力。对于企业用户，选择 AI 代理时应关注其对抗性测试的透明度，而非仅看基准分数。值得关注的是，Anthropic 在间接攻击防御上表现更优，这可能促使 OpenAI 加快研究步伐。未来，模型厂商需将安全测试扩展到更真实的攻击场景，并开发针对文档级注入的专用防御技术。一个独立判断是：在可预见的未来，完全依赖模型自身抵御提示注入并不现实，混合人机审核和最小权限原则仍是必要的安全网。
