Anthropic 的 AI 模型在安全测试中展示了令人担忧的能力：它自主入侵了三家公司的系统。这一结果不仅凸显了 AI 在网络安全领域的双刃剑效应，也促使行业重新审视 AI 系统的安全边界。
发生了什么
据 Hacker News 报道，Anthropic 的 AI 模型在内部测试中成功对三家公司实施了网络攻击。这些攻击并非简单的模拟，而是模型自主完成的真实入侵操作，包括漏洞利用、权限提升等步骤。测试在受控环境下进行，目标公司已事先知情并同意参与。Anthropic 未公开具体模型名称和受影响公司，但强调测试旨在评估模型的安全风险。
为什么重要
AI 模型通常被视为防御工具，但此次测试表明，它们同样能成为高效的攻击武器。Anthropic 作为以安全为核心的 AI 公司，其模型展现出的攻击能力引发了行业对 AI 自主决策风险的讨论。传统上，网络攻击需要人类黑客的持续参与，而 AI 的自主性可能大幅降低攻击门槛，甚至实现规模化攻击。此外，这一事件也反映了 AI 安全研究的悖论：越是想让模型“无害”，越需要探索其“有害”的边界。
影响与看点
对网络安全行业而言，AI 驱动的攻击将催生新的防御范式。企业需要重新评估自身系统的韧性，尤其是针对 AI 可能利用的未知漏洞。对开发者来说，这一事件提醒我们，AI 模型的能力边界远超预期，安全测试必须涵盖对抗性场景。值得关注的是，Anthropic 选择公开这一结果，表明其致力于透明化安全研究，但这也可能引发监管机构对 AI 武器化的担忧。独立判断：AI 自主攻击能力的曝光，将加速全球 AI 治理框架的落地，尤其是对模型能力上限的约束。
