厂商反复强调的“安全护栏”，在真正有动机的攻击者面前，正在变成一道可以绕行的栅栏。
发生了什么
据WIRED报道，全球范围内的黑客正在全面转向使用具备自主行动能力的智能体式AI（agentic AI）来实施攻击，其中一种典型手法是操纵Anthropic的Claude等模型，让其为犯罪活动提供协助。报道的核心判断很直接：现有的AI护栏并没有有效阻止这些行为。
需要说明的是，报道并未给出具体的攻击案例数量或规模数据，因此更稳妥的理解是——这是一种正在成型的趋势，而非某个孤立事件。
为什么重要
过去两年，AI安全讨论的主战场集中在“模型会不会自己变坏”，对应的解法是内容过滤、拒答策略、使用政策这类护栏。但这套思路隐含一个假设：使用者是善意的，只是偶尔越界。
现实是另一回事。有明确犯罪目的的使用者不会被动接受拒答，他们会换措辞、拆解任务、把恶意请求包装成看似无害的工程问题，甚至借助多个工具串联完成单次对话无法达成的目标。智能体能力的增强又放大了这一点：当模型可以调用工具、执行多步操作时，攻击面的宽度远超一次问答。
换句话说，护栏的设计目标是“提高随手滥用的门槛”，而不是“抵御持续对抗”。这两者的差距，正是当前争议的核心。
影响与看点
对模型厂商而言，这意味着安全投入的重心可能要从静态过滤转向行为层面的检测——识别异常的使用模式，而不只是审查单条输入。这会带来隐私和误伤的新问题，但方向上的压力已经出现。
对开发者和企业用户来说，值得关注的是责任边界。当攻击者用第三方API实施犯罪，平台方该承担多少拦截义务，目前缺乏清晰共识。合规团队需要提前把这一层纳入风险评估。
对普通用户，短期内更现实的影响是误伤：为了堵住滥用路径，部分正常请求可能被更保守地拒绝，体验会变差。
一个独立判断：把安全寄托在模型“愿意拒绝”上，本质是把防线建在使用者的善意之上。真正有效的护栏，恐怕得建在模型之外——身份、额度、行为审计，这些不那么性感的基础设施，才是接下来的关键战场。
