生成式 AI 被用于舆论操纵并不新鲜,但这次 OpenAI 披露的案例把“伪造可信度”这件事推进到了一个新阶段:被伪造的不只是内容,而是内容背后的身份与机构。

发生了什么

据 OpenAI 披露,其处置了两起利用 AI 赋能的影响力行动(influence operations)。这两起行动的共同特征是使用“false front”——即伪造前台身份:一方面伪装成记者(false-front journalists),另一方面搭建了一个看似独立的智库(think tank)作为发声平台,借此散布带有地缘政治倾向的叙事。

OpenAI 的表述是“disrupted”(已中断),即对相关账号与访问权限采取了处置措施。需要说明的是,公开摘要未给出涉及的国家、账号数量、模型调用规模或具体时间线,因此对这些细节应保持克制,不宜自行补全。

为什么重要

影响力行动的经典打法是“内容战”:批量发帖、刷量、制造话题热度。而“false front”是另一条路径——它攻击的是信任链条的上游。读者判断一条信息是否可信,往往依赖三个信号:谁说的(记者)、以什么名义说的(机构)、有没有同行背书(智库报告、媒体署名)。当这三样都能被模型低成本生成时,验证成本就从“读内容”上升到了“查身份”。

更关键的是成本结构的变化。过去伪造一个像样的媒体身份或智库外壳,需要人设维护、网站搭建、持续产出、跨平台一致性运营,属于重人力投入。生成式模型恰好擅长这类“看起来像那么回事”的文本生产与风格模仿,把伪造的门槛压到了个人或小团队可承担的水平。这解释了为什么平台方开始把这类行动单独拎出来披露:它不是传统水军,而是“可信度基础设施”的仿冒。

从平台治理角度看,OpenAI 的处置动作也传递了一个信号:模型提供方正在把自己定位为影响力行动的第一道拦截点,而不只是内容生成工具。这与过去几年平台在选举周期前后加强披露的节奏一致。

影响与看点

对开发者与产品团队而言,最直接的启示是:身份真实性正在成为可被攻击的资产。如果你的产品依赖“作者署名”“机构来源”“专家背书”来建立信任,那么这套信任机制的设计需要重新评估——它是否可被批量伪造,是否有可验证的锚点(如域名归属、历史行为、跨平台一致性)。

对普通用户,值得关注的是验证习惯的迁移:从“这条内容像不像真的”转向“这个说话的人/机构是否真实存在且可追溯”。这更费力,但可能是当前阶段唯一有效的防线。

一个独立判断:这类行动的真正目标未必是让人相信某个具体说法,而是稀释“可信来源”这个概念本身的价值。当假记者和假智库足够多,公众对一切署名与机构标签的默认信任都会下降——这种“信任通胀”的代价,最终由所有真实媒体和真实研究机构共同承担。平台披露与封禁能解决个案,但很难逆转这个趋势。