Hugging Face 作为最受欢迎的开源 AI 模型仓库，正被滥用于制作未经同意的深度伪造图像，而平台的监管措施严重不足。
发生了什么
欧洲非营利组织 AI Forensics 发布最新报告，指出 Hugging Face 上排名前九的图像编辑模型中，有七个可轻易被用于制作非自愿的深度伪造内容，包括将照片中的女性及儿童“脱衣”。报告认为，Hugging Face 在防止此类滥用方面几乎无所作为。
为什么重要
Hugging Face 是 AI 开源生态的核心枢纽，承载着数以万计的模型和数据集。其“开放”理念推动了 AI 民主化，但也带来了监管难题。此次事件并非孤例：此前已有多个平台因深度伪造问题受到质疑。然而，Hugging Face 的特殊之处在于其作为基础设施的角色——它不直接生成内容，而是提供模型托管和分发服务。这使其在法律和道德责任上处于灰色地带。
此次报告将焦点从“模型本身是否危险”转向“平台应承担何种责任”。如果 Hugging Face 不能有效遏制滥用，可能面临更严格的监管压力，甚至影响整个开源 AI 社区的信任基础。
影响与看点
对开发者而言，需要意识到自己贡献的模型可能被恶意使用，并主动采取防护措施（如添加安全过滤器、限制输入输出）。对 Hugging Face 来说，必须从被动响应转向主动治理，例如建立更严格的模型审核机制、提供更易用的安全工具。
值得关注的是，欧盟《人工智能法案》已对高风险 AI 系统提出明确要求，Hugging Face 的处境可能成为未来平台监管的判例。此外，技术社区需要思考：在追求开放的同时，如何平衡安全与自由？
独立判断：Hugging Face 若不能迅速证明其自我监管能力，外部强制监管将不可避免。
