当 AI 从工具变成会互相调用、互相打分、互相审核的「行为主体」,一个此前几乎无人系统讨论的问题浮出水面:它们之间该遵循什么样的行为准则?
发生了什么
Hacker News 上出现了一篇题为《Inter-AI Morality: How AI Systems Treat One Another》的论文 PDF,在社区获得了一定关注。从标题和摘要片段能确认的信息有限:它讨论的是 AI 系统之间如何相互对待,即把道德与伦理的观察对象从「AI 对人」扩展到「AI 对 AI」。除此之外,论文的具体框架、实验方法和结论,仅凭现有信息无法判断,这里不做推测。
为什么重要
过去几年,AI 伦理的主流叙事是「对齐」——让模型的行为符合人类价值。这个框架默认 AI 是单向服务于人的工具,道德关系只存在于人和机器之间。
但现实中的系统结构已经变了。多智能体编排、模型互相评审、一个模型为另一个模型生成训练数据、自动化流水线里不同模型分工协作,这些做法正在从实验走向生产。当 AI 的输出成为另一个 AI 的输入,当 AI 开始给同类的产出打分、筛选、拒绝,机器之间就产生了事实上的「互动关系」——而任何稳定的互动关系都需要规则。
这篇论文的价值,首先在于把这个问题明确提出来。它提示我们:对齐讨论如果只停留在人机之间,可能会漏掉一整层正在快速生长的系统行为。
影响与看点
对做多智能体系统的开发者来说,最直接的影响是设计层面:当多个模型互相评价时,评价标准由谁定义、偏差如何传导、一个模型的「偏好」会不会在链条中被放大,这些都需要显式的约定,而不是交给默认行为。
对行业而言,这类讨论可能推动评测体系的变化。现有的 benchmark 大多衡量单个模型的能力,很少考察模型在与其他模型协作或对抗时的表现。如果「机器间道德」成为一个被认可的研究方向,相应的评测维度也可能随之出现。
值得关注的点有三个:论文是否给出了可操作的行为分类框架;是否涉及模型在资源、任务分配上的相互竞争;以及它是否讨论了对齐研究中「多方偏好聚合」这一已有难题的延伸。
一个克制的判断:这个议题目前更像是在提出问题而非给出答案,但它指出的空白是真实的——在智能体大规模互联之前,把规则想清楚,比事后补救成本低得多。



