四家最有分量的 AI 公司,第一次在“内容能不能被抓”这件事上站到了同一套规则里。

发生了什么

据 The Verge 援引 Search Engine Roundtable 的报道,OpenAI、Google、Microsoft 和 Anthropic 表示将采纳一项新标准,让出版商可以用统一方式声明自己是否愿意被 AI 抓取。核心机制是一个共享的“策略令牌”(policy token)信号:出版商把训练偏好写进这一信号后,可同时作用于多家 AI 公司,而不必像现在这样去每家的后台或协议里单独设置。

报道同时提到,这一控制方式针对的是“AI 训练偏好”的表达,而非逐条内容的许可谈判。

为什么重要

过去两年,内容方与 AI 公司之间的抓取博弈基本处于“各说各话”的状态:robots.txt 是上世纪的产物,无法表达“允许搜索索引、但不要用于训练”这类细分意愿;各家 AI 公司又各自推出爬虫标识和退出机制,出版商要维护一份不断变长的名单,成本高且容易漏。

统一令牌的价值不在于技术复杂度,而在于把“退出”从一对多谈判变成一次声明。对 AI 公司而言,这也是一种低成本的自证合规姿态——在版权诉讼和监管审查持续升温的背景下,能拿出“我们尊重机器可读的偏好信号”这一说法,比逐案应诉划算得多。

值得注意的是,这次是四家同时表态。任何一家单独做,都会面临“守规矩的人吃亏”的困境;四家一起做,才让这套信号具备实际约束力。

影响与看点

对出版商,这是把议价权前置的一步:先统一表达“不”,再谈授权价格。但令牌只解决“意愿表达”,不解决“违约追责”,实际执行仍取决于各家是否真的遵守、以及违规如何被发现。

对开发者和内容平台,需要关注的是这套信号会不会被主流爬虫框架和 CDN 默认支持——只有进入基础设施层,它才不会沦为又一份没人读的声明文件。

对普通用户,短期几乎无感,长期可能影响模型训练数据的构成:更多高质量内容选择退出后,公开语料的“水位”会下降。

一个克制的判断:这是行业自律的一次真实进展,但它替代不了法律。真正的分水岭,是第一个因违反该信号而被公开追责的案例出现。