德国极右翼政党“德国选择党”(AfD)开发了一款AI软件,专门用于生成所谓的“愤怒诱饵”(rage bait)内容——即刻意设计来激怒读者、引发强烈情绪反应并促进传播的帖子或文章。
发生了什么
据多家媒体报道,AfD内部团队利用自然语言生成模型,训练了一个能够批量生产具有煽动性、争议性政治内容的工具。该工具可以自动生成针对移民、欧盟、气候变化等敏感话题的短文本,并针对社交媒体平台优化,以最大化互动率。AfD成员承认该工具用于“扩大党的声音”,但否认其目的是制造分裂。
为什么重要
这一事件揭示了AI生成内容在政治宣传中的新应用场景:不再是简单的信息传播,而是主动设计“情绪触发器”。传统上,“愤怒诱饵”依赖人工写手,效率低且难以规模化。AI的介入使得低成本、高频率地制造极化内容成为可能,可能加剧网络舆论的撕裂。同时,这也凸显了当前AI监管的空白——现有法律主要关注虚假信息、仇恨言论等,但对“情绪操纵”式的内容生成缺乏约束。
影响与看点
对于AI行业而言,此案例敲响了警钟:生成式AI的滥用不止于深度伪造或虚假新闻,还包括对用户情绪的精准操控。开发者需要思考如何在其模型中嵌入“情绪安全”机制,避免被用于制造对立。对平台方来说,检测“愤怒诱饵”将比识别假新闻更难,因为其内容本身可能不违反社区准则,但意图是恶性的。未来,类似工具可能被更多政治团体、营销公司甚至国家行为体采用,而目前的检测和治理手段远远不够。一个值得关注的点是:当AI能够以假乱真地模仿人类愤怒时,网络讨论的真实性将受到根本挑战。

