Meta 近期被曝出为其平台上的广告主投放了推广“一键脱衣”应用的广告，该应用利用 AI 深度伪造技术，将女性政客的照片转换为逼真的裸体图像。这一事件再次将深度伪造的伦理问题与平台责任推至风口浪尖。
发生了什么
据 Ars Technica 报道，Meta 在其社交平台上投放了多则广告，推广一款名为“Nudify”的应用。该应用的核心功能是使用深度学习模型，对用户上传的照片进行处理，生成模拟裸体图像。其中一则广告中，展示了一段色情视频，视频中的女性形象与一位美国政客高度相似，显然是深度伪造的产物。这些广告显然违反了 Meta 自身的广告政策，即禁止包含“非自愿图像”或“深度伪造”内容。目前，Meta 尚未对此事做出正式回应，但相关广告已被撤下。
为什么重要
这一事件并非孤例。近年来，深度伪造技术迅猛发展，尤其是开源模型的普及，使得生成逼真的虚假图像变得异常容易。据相关研究，2023 年全球深度伪造图像数量同比增长了 550%，其中 96% 涉及非自愿色情内容。而女性政客、名人和社会活动家成为主要受害者。Meta 作为全球最大的社交平台之一，其广告审核机制本应拦截此类内容，但此次事件暴露出其审核系统的漏洞。更重要的是，这并非 Meta 首次因深度伪造问题受到批评。此前，Facebook 上曾流传过美国众议院议长佩洛西的慢速伪造视频，Meta 当时以“不违反政策”为由拒绝删除，引发广泛争议。此次“Nudify”广告事件，再次凸显了平台在 AI 内容治理上的困境：技术发展速度远超审核机制的更新。
影响与看点
对于 AI 行业而言，这一事件敲响了警钟。深度伪造技术本身具有合法应用场景，如影视特效、虚拟助手等，但滥用风险极高。开发者社区需要更积极地讨论伦理边界，并推动技术防伪措施，如水印、检测算法等。对于平台方，Meta 需要反思其广告审核流程，尤其是对 AI 生成内容的识别能力。目前，Meta 已宣布将扩大 AI 检测工具的使用，但实际效果有待观察。对于用户，尤其是女性政客，这一事件提醒她们在数字时代面临的隐私威胁。值得关注的是，监管层面是否会因此加速立法。美国已有多个州通过了针对深度伪造的法规，但联邦层面仍缺乏统一法律。此外，公众舆论的压力可能促使 Meta 采取更严格的措施，但如何平衡言论自由与内容监管，仍是一个难题。
总而言之，这起事件不仅是 Meta 的公关危机，更是整个 AI 行业在伦理与监管上的一个缩影。技术无善恶，但使用技术的人必须有底线。
