Hugging Face 作为全球最大的开源模型社区，正面临一个棘手问题：其平台上的图像编辑模型被用于生成深度伪造裸照。
发生了什么
研究人员对 Hugging Face 上流行的图像编辑模型进行了测试，发现这些模型能够轻松创建逼真的深度伪造裸照。他们收集了约 1000 条图像编辑提示词，这些提示词揭示了用户如何利用软件制作非自愿的色情内容。尽管 Hugging Face 有内容政策，但模型本身并未内置足够的防护措施，导致滥用行为频发。
为什么重要
深度伪造技术（deepfake）的滥用并非新问题，但开源模型的普及降低了技术门槛。Hugging Face 作为模型分发和协作的核心平台，其治理能力直接影响到整个 AI 生态的安全。此次发现表明，即使平台有审核机制，模型本身的开放性仍可能被恶意利用。这不仅是 Hugging Face 的问题，更是整个开源 AI 社区面临的挑战：如何在开放与安全之间取得平衡。
影响与看点
对开发者而言，需要反思模型发布时的默认安全设置，例如是否应默认启用内容过滤或水印。对用户来说，应意识到开源模型并非绝对安全，使用和部署时需自行承担风险。值得关注的是，Hugging Face 是否会因此加强模型审核或推出更严格的使用条款。此外，这一事件可能推动监管机构加速制定针对深度伪造和开源模型滥用的法律框架。独立判断：开源精神不应成为滥用行为的遮羞布，平台和开发者有责任在技术层面主动设防。
