Abliteration.ai 正在将移除 AI 安全护栏变成一门生意，让无限制的模型更容易被获取。其核心主张是：让防御者拥有与攻击者相同的工具，最终可能改善网络安全。这一逻辑在安全圈并不陌生，但将其商业化，仍引发诸多疑问。
发生了什么
据 TechCrunch 报道，Abliteration.ai 提供一种服务，帮助用户去除主流大语言模型（如 Llama、Mistral 等）中的安全对齐（guardrails），即所谓的“abliteration”技术。该技术通过修改模型权重，移除拒绝回答有害问题的机制，使得模型可以响应更广泛、甚至可能被滥用的指令。公司将其定位为安全研究工具，认为通过公开这些技术，可以让安全团队更好地理解模型弱点，从而开发更 robust 的防御。目前，该平台提供 API 或模型下载，用户可获取去除护栏的模型版本。
为什么重要
“Abliteration”一词源于机器学习中的“消融”（ablation）概念，指移除模型特定能力或行为。此前，这类技术多在学术圈或地下社区流传，例如一些匿名开发者发布“无审查”模型。Abliteration.ai 的商业模式标志着这一技术从边缘走向商业化。其背后的逻辑是“进攻性安全”（offensive security）思想：在网络安全领域，渗透测试和漏洞披露是常见做法，通过模拟攻击来加强防御。将这一思路应用于 AI 模型，意味着承认当前安全对齐的局限性，并试图通过暴露弱点来推动改进。然而，这也引发伦理和法律风险：无限制模型可能被用于生成恶意代码、虚假信息或有害内容。尽管公司声称目标用户是安全专业人员，但模型的传播难以控制，可能被滥用。此外，这也反映了 AI 安全领域的一个根本分歧：是封闭模型、限制访问，还是开放模型、依赖社区防御？Abliteration.ai 选择了后者，但其商业动机可能削弱其“安全研究”的正当性。
影响与看点
对开发者而言，Abliteration.ai 的工具可能降低安全研究门槛，但同时也要求他们承担更多责任。企业安全团队可能利用这类服务进行红队测试，但需警惕法律合规风险。对 AI 平台而言，这一趋势可能加剧“军备竞赛”：模型发布者需不断强化护栏，而攻击者则寻找绕过方法。值得关注的是，监管机构如何界定这类服务的合法性——如果将其视为“双用途”技术，可能要求更严格的访问控制。我的独立判断是：Abliteration.ai 的商业化虽然可能促进安全研究，但若无明确的使用边界和问责机制，很可能沦为恶意行为的温床。真正的安全进步应来自模型本身的鲁棒性提升，而非单纯依赖攻击者的善意。未来看点包括：此类服务是否会引发主流模型发布者的反击，以及是否会出现更严格的法律先例。
