当广告本身合规、落地页却在别处,平台的内容审核就出现了一道结构性裂缝。Meta 正在尝试用 AI 补上它。

发生了什么

据 TechCrunch 报道,Meta 推出了新的 AI 工具,用于检测平台上的特定广告:这些广告在 Meta 的界面内看起来并无异常,但会引导用户前往站外,接触到儿童性虐待材料(CSAM)。Meta 表示,这一动作的直接触发因素,是其在自家平台上发现了这类广告的存在。

换言之,被检测的对象不是违法内容本身,而是“把人带向违法内容的路径”。

为什么重要

传统内容审核的基本假设是:内容在哪里,审核就在哪里。文本、图片、视频被上传到平台,平台用分类器判断它是否违规。但广告这种形态天然带有“跳板”属性——素材、文案、落地页可以分属不同域名和主体,违规部分被放在平台管辖之外。

这带来两个后果。其一,广告审核的漏网成本远高于普通帖子,因为它带有分发和定向能力,能主动触达特定人群。其二,平台即使发现线索,也往往只能封禁广告账户,难以直接处置站外目标。

Meta 此次的做法,等于承认单看广告素材不足以判断风险,必须把“点击之后的去向”纳入模型判断范围。这对整个广告技术栈都是一个信号:意图识别正在成为审核的一部分,而不只是内容分类。

影响与看点

对平台而言,这类工具的价值不只在于 CSAM 本身。同一套“表面正常、实际引流”的模式,同样适用于诈骗、赌博、违禁品和恶意软件分发。一旦验证可行,能力大概率会外溢到更广的广告安全场景。

对广告主和投放方来说,风险边界在移动。过去合规判断集中在素材和落地页是否违规,未来“跳转链路”本身可能成为被审查的对象,中转页、短链、动态落地页都会进入视野。

对开发者和安全团队,值得关注的是技术路径:如何在保护隐私的前提下,对跳转目标做规模化风险判定,而不是简单抓取落地页内容。这涉及链接图谱、域名信誉、行为模式等多层信号,也决定了这类系统能否被复用到其他语言和市场。

需要保持克制的是,Meta 并未披露这套工具的具体技术细节、覆盖范围或效果数据,因此现在判断其实际拦截能力还为时过早。可以确定的是方向:内容治理的战场,正在从“页面之内”延伸到“点击之后”。