旧金山市检察官办公室近日向Meta发出命令，要求其停止在Facebook和Instagram上投放涉及AI生成的儿童虐待内容广告，并要求解释为何此类有害广告反复出现。Meta回应称，这些广告不属于该市的管辖范围。这一事件不仅关乎法律边界，更暴露了AI生成内容在现有审核体系下的巨大漏洞。
发生了什么
据WIRED报道，旧金山市检察官办公室已正式要求Meta采取行动，停止允许AI生成的儿童虐待广告在其平台上投放。这些广告据称反复出现在Facebook和Instagram上，内容涉及利用AI技术制作的儿童性虐待素材。市检察官办公室要求Meta提供详细解释，说明为何此类广告能够绕过审核机制多次上线。Meta方面则辩称，根据相关法律，该市对此类广告没有管辖权，暗示其不应受此命令约束。目前，双方尚未就管辖权和责任归属达成一致，事件仍在发酵中。
为什么重要
这一事件的核心在于AI生成内容（AIGC）的监管空白。传统上，平台对用户上传的内容有明确的审核标准，但AI生成的图像和视频可以轻易绕过基于哈希匹配和人工审查的系统。Meta等平台虽然投入大量资源训练AI检测工具，但面对不断演变的生成式AI技术，仍显得力不从心。此外，法律层面的争议也值得关注：旧金山作为Meta总部所在地，其地方检察官的管辖权是否适用于平台内容？这涉及到《通信规范法》第230条等联邦法律对平台责任的保护边界。如果地方机构能成功干预，可能为其他城市和州提供先例，迫使平台在AI内容治理上采取更主动的姿态。
影响与看点
对Meta而言，此事件可能迫使其重新评估AI生成内容的审核策略，尤其是在广告投放环节。如果无法有效过滤此类内容，可能面临更多法律诉讼和监管压力。对行业而言，这敲响了警钟：AI工具的滥用已从深度伪造扩展到非法内容领域，平台需要更透明的报告机制和更严格的广告预审流程。开发者社区也应反思，如何在模型训练和部署中内置安全护栏，防止技术被用于恶意目的。值得关注的是，Meta是否会主动调整政策，还是等待法院裁决。从编辑角度看，无论结果如何，这一事件都表明，AI治理不能仅依赖技术手段，法律和监管的及时介入不可或缺。
