当AI治理讨论还停留在版权、幻觉与算力竞赛时,梵蒂冈把话题拉回到了一个更古老的问题上:谁有权决定生死。

发生了什么

据 The Verge 报道,教皇利奥十四世在周五的教皇讲话中表示,AI 系统应当被“解除武装”(disarmed)。他提出,人类“有责任去引导、改变,并在必要时拒绝其应用”。讲话中,他呼吁联合国成员国在下个月于日内瓦举行的会议上“采取具体步骤,禁止致命性自主武器”。报道同时指出,这一讲话延续了此前围绕 AI 伦理的多项立场。

需要说明的是,现有信息只给出了讲话的核心主张与呼吁对象,并未披露具体条款、时间表或约束机制。因此更准确的读法是:这是一次道德层面的公开施压,而非一份可执行的政策文本。

为什么重要

“致命性自主武器”并非新议题,联合国框架下围绕它的讨论已持续多年,分歧集中在定义边界、人类控制的最低标准,以及是否应当走向具有法律约束力的禁令。教皇此次发言的分量不在于技术判断,而在于话语位置:他把 AI 从“产品与效率”的语境里抽出来,放回“战争与人的责任”的语境。

“机器是工具,不是人”这句话,实际上是对当下两种倾向的同时否定。一种是把自主决策包装成技术中立,让责任在系统链条中蒸发;另一种是把 AI 拟人化,用“它在判断”来替代“有人在负责”。教皇的表述把责任重新钉回人类一侧——引导、改变、必要时拒绝,这三个动词构成了一个递进的责任梯度,而不是一句笼统的伦理口号。

对科技行业而言,这也是一次提醒:AI 治理的合法性来源,正在从工程师与监管者的双边博弈,扩展到宗教、人道主义与公民社会的多方场域。

影响与看点

短期看,教皇讲话不会直接改变任何一家公司的产品路线,但它会为日内瓦的讨论提供道义筹码,也会被主张禁令的国家与非政府组织反复引用。对开发者和企业来说,真正值得关注的是“拒绝”这一表述——它意味着在某些应用场景中,不部署本身就会被视为一种负责任的选择,而不是保守或落后。

另一个看点是话语的迁移路径:当“解除武装”这类带有强烈价值判断的词汇进入 AI 讨论,行业惯用的“对齐”“安全护栏”等工程语言,可能不得不在公共沟通中回应更直接的追问——这套系统最终由谁授权、对谁负责。

一个克制的判断是:禁令能否落地仍高度不确定,但“人类必须保留否决权”这一底线,正在从技术共识变成公共共识。