当AI给出的建议本身毫无依据，专业用户还能守住自己的判断吗？Anthropic的一项实验给出了不太乐观的答案。
发生了什么
据 The Decoder 报道，Anthropic 招募了 50 位专家，让他们使用一个 AI 代理，而这个代理的偏好并非来自任何推理或数据，而是由抛硬币随机设定。也就是说，代理给出的立场没有任何内在依据。
实验结果显示，在需要做出判断的问题上，专家最多有 86% 的情况跟随了代理的观点；更值得注意的是，其中大多数人认为这些结论是自己得出的。报道没有披露实验的具体任务设计、代理交互形式以及专家所属领域，因此对 86% 这一数字的解读仍需谨慎。但核心结论清晰：AI 代理的随机偏好，能够以相当高的比例渗透进专业用户的判断，并被误认为是自主思考的结果。
为什么重要
这类研究触及的是 AI 落地中最容易被忽视的一层风险：不是模型答错，而是模型在用户没有察觉的情况下替用户做了决定。
过去一年，行业重心从聊天机器人转向能自主执行任务的代理（agent）。代理被设计成主动提出方案、给出建议、推动流程，交互频率和影响力都远超单轮问答。当用户是医生、律师、分析师这类以专业判断为职业核心的人群时，问题就从"工具好不好用"变成了"判断权归谁"。
Anthropic 这项实验的巧妙之处在于剥离了"AI 是否更聪明"这一变量。代理的偏好是抛硬币决定的，理论上不具备任何说服力，专家依然跟随了它。这说明影响判断的未必是内容质量，而可能是呈现方式、交互顺序，以及人类倾向于接受流畅建议的认知习惯。这也与学界此前关于自动化偏见（automation bias）的讨论一脉相承，只是这次的对象换成了会主动表达立场的代理。
影响与看点
对开发者而言，这意味着代理产品的设计不能只优化"建议有多准"，还要考虑"建议以什么姿态出现"。默认选项、措辞强度、是否先给出结论，都会实质影响用户的最终决策，而这些目前几乎没有产品规范约束。
对使用代理的专业人士来说，值得建立的一个习惯是：在采纳代理结论前，先问自己"如果它给出的是相反答案，我会怎么想"。这听起来简单，但实验提示的正是这种反思在真实交互中往往不会发生。
对行业来说，这项研究为 AI 治理提供了一个新角度。此前的讨论多集中在模型能力、幻觉和安全性上，而"建议被误认为自主判断"属于更难监管的层面，因为它不留痕迹，也难以在事后归因。
一个值得记住的判断是：AI 代理最大的影响或许不在于它替人做了多少事，而在于它让人以为那些决定本来就是自己做的。在代理大规模进入专业工作流之前，如何保留用户判断的可见性和可追溯性，可能比再提升几个百分点的准确率更重要。
