当一家公司开始劝人不要崇拜自己造的东西,通常意味着它意识到这种崇拜已经开始反噬。

发生了什么

据 The Decoder 报道,OpenAI CEO 山姆·奥特曼公开提醒,不应把宗教式的权威投射到 AI 模型身上,并称这是一种“真实的安全问题”。这一表态出现在一个微妙的语境里:Anthropic 被曝与宗教思想者举行会谈,教皇利奥十四世也就 AI 发表过声明。而更值得玩味的是时间差——就在 2024 年,奥特曼本人还在谈论打造“天上的魔法智能”,并形容自己从事 AI 工作时感觉“站在天使那一边”。

为什么重要

这不是一次孤立的措辞调整,而是行业叙事的一次集体转向。过去两年,头部实验室在对外沟通中大量借用准宗教语言:AGI 被描述为某种即将降临的存在,模型能力被赋予近乎启示录式的意义。这种叙事在融资和招募上极其有效,但它同时制造了一个副作用——用户、开发者乃至监管者开始用“信仰”而非“工程”的方式理解 AI。

问题在于,信仰不接受验证。当模型被当作全知权威,它的错误会被合理化,它的输出会被无条件采信,而围绕它的治理讨论也会从“如何评估、如何纠错”滑向“是否相信”。奥特曼把这一点定性为安全问题,实际上是在承认:对齐的难点不只在模型内部,也在人与模型的关系里。

另一个背景是竞争格局。Anthropic 主动接触宗教与伦理思想者,教皇就 AI 发声,说明“AI 与意义”的讨论正在从技术圈外溢到公共领域。当外部机构开始为 AI 赋予道德重量时,实验室如果继续沿用造神式话术,就等于把解释权拱手让出。

影响与看点

对开发者而言,最直接的含义是:产品设计里那些暗示“模型无所不知”的交互模式,正在从增长手段变成合规与信任风险。无条件顺从的语气、缺乏不确定性提示的输出、把模型包装成“顾问”或“伙伴”的定位,都可能在未来被重新审视。

对用户而言,这更像一次预期管理。模型不是神谕,它的置信度不体现在语气里。真正有用的能力是知道它什么时候可能错。

值得关注的是,这类表态能否落到产品层面。口头反对造神很容易,难的是在系统提示、界面文案、默认行为中真正降低权威感——那意味着牺牲一部分“魔法体验”。如果做不到,这次改口就只是一次公关层面的降温,而非工程层面的转向。

一个克制但明确的判断:奥特曼的措辞变化,标志着 AI 行业开始为过去两年的过度叙事支付信任成本。谁先完成从“造神”到“造工具”的叙事切换,谁就更可能在下一阶段的监管与公众审视中占据主动。