社交媒体平台正在成为非自愿色情深度伪造（deepfake）的引流渠道，一项最新研究揭示了这一令人不安的趋势。
发生了什么
根据 WIRED 报道的一项新研究，YouTube 和 X（原 Twitter）等主流社交平台正在充当“网关”，将用户引导至所谓的“Nudify”（裸体化）应用。这些应用利用 AI 技术，将普通照片中的衣物“移除”，生成非自愿的、性露骨的深度伪造图像，且每张图像最低仅需 1 美元。研究指出，这些平台上的内容——包括教程、链接和广告——直接或间接地推广了此类服务，使得用户能够轻易找到并使用它们。
为什么重要
非自愿色情深度伪造并非新问题，但此次研究首次系统性地揭示了社交平台在其中的主动或被动角色。过去，此类内容多通过暗网或小众论坛传播，而现在，YouTube 和 X 等拥有数十亿用户的平台正成为其主要入口。这不仅大幅降低了使用门槛，还使得制作和传播非自愿色情内容变得更加便捷和隐蔽。
此外，这类应用通常以“娱乐”或“趣味”为幌子，但实际造成的伤害是真实且严重的。受害者可能面临名誉损害、心理创伤、网络骚扰甚至职场歧视。尤其值得警惕的是，这些应用对女性、未成年人等群体的攻击尤为集中。
影响与看点
对于平台而言，这项研究再次敲响了内容审核的警钟。YouTube 和 X 虽有禁止非自愿色情内容的政策，但显然执行不力。研究发现的引流模式表明，平台需要更主动地识别和拦截此类推广内容，而非仅仅依赖用户举报。
对于开发者社区，这暴露了 AI 生成内容（AIGC）技术被滥用的现实。尽管许多开源模型和工具本身是中性的，但缺乏监管的部署环境使其极易被用于有害目的。这也可能推动更严格的行业自律和监管要求，例如要求模型发布者加入水印、使用限制或内容审核机制。
对于普通用户，这一发现提醒我们，任何上传到社交平台的照片都可能被滥用。在 AI 时代，数字肖像的保护变得前所未有的重要。
独立判断：社交平台若不采取更严厉的审核措施，将面临更严峻的监管压力和公众信任危机。
