当生成式 AI 被用于舆论操控,威胁不再只是社交平台上的机器人账号,而是渗透进看起来可信的真实媒体版面。

发生了什么

OpenAI 披露并封禁了两个影响力行动的相关账号,分别来自俄罗斯和伊朗。

俄罗斯方面的行动被命名为“Dark Clark”,主要面向拉丁美洲散布虚假信息,其内容甚至引发了当地政治人物的反应。OpenAI 在报告中给该行动打出 6 级评分体系中的 5 级——这是其报告历史上首次出现这一等级,意味着威胁程度处于最高档附近。

伊朗方面的行动被命名为“Bogus Bylines”,手法更为隐蔽:它虚构了七名“记者”,并以此身份向在线媒体投放了近 100 篇文章。也就是说,这些内容并非停留在社交媒体的信息流里,而是试图以署名报道的形式进入新闻生态。

为什么重要

这两起案例标志着 AI 舆论操控的战术升级。

过去,虚假信息行动的核心成本在于“规模化生产内容”和“伪装成真人”。大模型同时压低了这两项成本:批量生成多语种文本,并维持一个稳定、可信的人设。Dark Clark 能在拉美引发政治人物回应,说明其内容已经越过了“无人当真”的门槛。

Bogus Bylines 更值得警惕。它攻击的不是读者的判断力,而是媒体的把关流程。当一篇稿件带着完整的作者身份、稳定的发文历史和看似合理的选题出现时,编辑部的审核成本会显著上升。近 100 篇文章的规模也说明,这种投放并非一次性尝试,而是持续运作。

OpenAI 的评分体系本身也是一种信号:5 级评分的出现,意味着平台方认为这类行动的复杂度和影响力已经进入新的区间。

影响与看点

对媒体机构而言,作者身份核验正在从“可选项”变成“必选项”。仅凭邮箱、社交账号和过往发文记录来判断投稿者是否真实,已经不够可靠。

对平台和模型厂商而言,封禁账号只是事后处置。真正的难点在于:如何在不误伤正常创作的前提下,识别出以“记者人设”为掩护的协同投放行为。这类行为的内容本身往往并不违规,违规的是其背后的身份伪装和协同意图。

对普通读者而言,一个不太舒服的结论是:署名和发表渠道不再构成可信度的充分证明。判断信息来源时,需要更多关注其是否可被独立核实,而非它出现在哪里。

值得关注的是,OpenAI 此次披露的是已封禁的案例,这通常意味着相关手法在被公开前已经运行了一段时间。攻防的节奏,可能仍由攻击方掌握。