旧金山市检察官办公室本周向苹果和谷歌发出停止函，要求这两家科技巨头从应用商店中删除13款“换脸”应用，这些应用利用人工智能技术将普通照片中的女性“脱去”衣服，生成虚假裸照。

发生了什么

据WIRED报道，旧金山市检察官办公室本周向苹果和谷歌发出停止函，指控其应用商店中存在的13款“换脸”应用违反了加州关于深度伪造和未经同意传播私密图像的法律。这些应用允许用户上传他人照片，通过AI算法生成逼真的裸体图像，且绝大多数受害者是女性。检察官办公室要求两家公司在规定时间内下架这些应用，并停止从中获利。

为什么重要

这起事件是地方政府首次直接向应用商店运营商施压，要求其删除AI驱动的“脱衣”应用。此前，这类应用往往通过法律灰色地带运营，利用“换脸”或“娱乐”等标签规避审查。然而，随着深度伪造技术的普及，针对女性的非自愿色情内容已成为严重的网络暴力问题。加州法律明确禁止未经同意制作和传播深度伪造私密图像，但执行层面一直存在困难。旧金山此次行动标志着执法部门开始追究平台责任，而非仅针对应用开发者。

影响与看点

对苹果和谷歌而言，这封停止函意味着它们可能面临更严格的内容审核义务。如果两家公司不主动下架，可能面临诉讼或监管处罚。对开发者来说，类似应用的合规风险将大幅上升，尤其是那些利用AI生成色情内容的工具。从行业趋势看，这起事件可能推动应用商店制定更明确的AI应用审核标准，尤其是针对深度伪造和隐私侵犯类应用。值得关注的是，旧金山作为科技中心，其行动可能被其他城市或州效仿，进而影响全国范围内的应用监管政策。总体而言，平台责任与AI伦理的边界正在被重新划定。