当全球目光被“AI会不会毁灭人类”的辩论吸引时，一位直接参与梵蒂冈AI伦理事务的顾问发出了不同的声音：真正值得警惕的，或许不是遥远的末日场景，而是少数大实验室正在形成的“卡特尔”式权力结构。
发生了什么
据WIRED报道，教皇方济各的AI顾问Paolo Benanti在接受采访时指出，围绕“神级AI可能毁灭人类”的过度恐慌，正在分散公众对技术治理的注意力。他特别提到，大型AI实验室之间可能存在“卡特尔”行为——即少数头部玩家通过默契或明面的方式，共同主导技术方向、准入标准和话语权，使得关于AI如何治理的公共辩论被边缘化。Benanti的身份特殊：他既是神学家，也是技术伦理学者，长期为梵蒂冈提供AI伦理咨询，其观点在宗教界和科技伦理圈都有一定分量。
为什么重要
这一表态的时机耐人寻味。过去两年，AI安全叙事几乎被“存在性风险”主导：从超级智能对齐问题到AI接管人类，讨论往往集中在极端假设上。这种叙事有一个副作用：它把治理问题变成了一个技术精英内部的“安全问题”，而普通公众、中小开发者、甚至监管机构都被排除在核心讨论之外。Benanti的批评戳中了这个盲区——当大实验室一边渲染末日风险，一边闭门制定行业标准时，所谓的“安全”很可能变成巩固垄断的护城河。
更深层的背景是，AI治理的公共讨论空间正在收窄。模型发布越来越不透明，训练数据、算力分配、评估基准都掌握在少数公司手中。Benanti所说的“卡特尔”，未必是法律意义上的价格联盟，而是一种事实上的认知垄断：谁有资格定义“安全”，谁就有资格定义“合规”，进而定义谁能留在牌桌上。
影响与看点
对行业而言，这一警告可能推动更多元的声音进入AI治理讨论。宗教、哲学、社会学等领域的介入，未必能直接改变技术路线，但可以打破“只有工程师才懂AI”的默认前提。对开发者来说，如果大实验室的“卡特尔”行为持续，开源模型和中小玩家的生存空间可能进一步被压缩——合规成本、算力门槛、评估标准都可能成为隐形壁垒。对普通用户，这意味着你未来使用的AI产品，其价值观和边界可能由极少数人决定，而非经过广泛的公共辩论。
值得关注的是，梵蒂冈近年来在AI伦理上动作频频，从签署《罗马呼吁》到推动“算法伦理”，其立场偏向人本主义和公共利益。Benanti的发言可以视为这一脉络的延续：不是反对AI，而是反对AI治理的“私有化”。
一个独立的判断是：AI治理的真正战场，不在末日论者的想象里，而在谁有权定义“安全”的日常博弈中。如果公共讨论继续被极端叙事绑架，那么“卡特尔”就不只是警告，而是正在发生的现实。
