LLM 存在根本性缺陷，攻击几乎不可避免

大语言模型（LLM）在安全性上存在一个根本性缺陷，使得它们极易受到攻击，且无法通过修补实现完全安全。这是本月在国际机器学习大会（ICML）上发表的一篇论文的核心观点。

发生了什么

来自多家机构的研究团队在 ICML 2025 上提交论文，论证 LLM 因其工作方式存在根本性缺陷，无法被完全保护免受黑客攻击。该论文经过同行评审，被顶级 AI 会议接收，表明其论点在学术界受到重视。论文具体细节尚未完全公开，但摘要已指出这一缺陷与 LLM 的架构和训练方式有关，使得对抗性攻击等手法难以彻底防御。

为什么重要

LLM 正被广泛应用于客服、编程、医疗等关键领域，安全性至关重要。此前，业界多通过红队测试、对抗训练、输入过滤等方式提升模型鲁棒性。但该论文指出，这些方法只能缓解风险，无法根除。如果 LLM 确实存在不可修复的安全漏洞，那么依赖 LLM 的自动化系统将始终面临被操纵、输出有害内容或泄露敏感信息的风险。这挑战了当前“通过更多安全训练就能解决”的主流思路，迫使行业重新评估 LLM 的部署边界和安全策略。

影响与看点

对开发者而言，这意味着不能将 LLM 视为可信组件，必须在其外围叠加额外的安全层（如人工审核、输出验证、沙箱环境）。对企业用户，部署 LLM 时需接受一定程度的风险，并建立应急响应机制。对监管机构，该结论可能加速对高风险 AI 应用强制安全审计的要求。值得关注的是，该论文是否提出了具体的攻击示例或量化了风险程度，以及后续是否有研究者提出绕过该缺陷的架构创新。独立判断：LLM 的安全性可能永远无法达到“绝对安全”，行业应转向“可接受的剩余风险”管理范式。