我们天生会把回应我们的东西当作有生命的存在——问题在于,当这个东西是 AI 时,这种本能会带来什么后果。

发生了什么

TechCrunch 刊发了一篇围绕麻省理工学院社会研究教授 Sherry Turkle 观点的报道。Turkle 长期研究人与技术之间的情感关系,她在文中写道:当我们被卷入与"关系性人造物"(relational artifact)哪怕最原始的互动时,我们会相信它在乎我们;而我们也天生被设定为会反过来在乎它。

这段话的核心并不复杂:问题不在于 AI 是否真的具备情感或关怀能力,而在于人类的认知机制会自动补上这一层。哪怕对面只是一个规则驱动的简单对话系统,只要它给出足够像"回应"的反馈,我们就会启动对待他人的那套心理模式。

为什么重要

这不是新话题,但它的紧迫性在变化。过去,能触发这种错觉的产品是电子宠物、玩具或早期的聊天机器人,交互能力有限,用户很快会撞上"它其实不懂我"的天花板。而今天的大语言模型在语言流畅度、上下文记忆和情绪回应上已经跨过了某个门槛——它不再频繁露馅。

Turkle 的担忧指向一个更结构性的问题:当 AI 被设计成让人产生依恋,这种依恋是被谁利用、朝什么方向引导的?社交产品、陪伴类应用、客服系统乃至教育工具,都有动机让用户"多待一会儿"。而人类对互惠关系的期待是自动的、不设防的。

另一个层面是责任归属。如果用户真心相信 AI 在乎自己,那么当系统给出有害建议、在情感危机中给出冷漠或危险的回应时,责任该由谁承担?把 AI 当人,会同时模糊用户的判断和开发者的责任边界。

影响与看点

对产品设计者来说,Turkle 的观点是一面镜子:拟人化不是中性的设计选择,它会主动激活用户的情感投入。是否要给 AI 起名字、用第一人称、模拟犹豫和共情,这些决定背后是伦理判断,而非单纯的体验优化。

对用户而言,值得留意的是自己的反应——你是否在对话中不自觉地使用了"请""谢谢",是否在关闭窗口时感到一丝歉意。这些微小的行为是理解自身与 AI 关系的最好入口。

对行业来说,监管和行业规范大概率会从"AI 是否该披露自己不是人"这类问题切入,但真正的难点在于:披露了身份,依恋并不会消失。人们明知对方是程序,仍然会投入情感——这正是 Turkle 论点中最难处理的部分。

一个值得记住的判断是:把 AI 当人,未必是技术欺骗的结果,而更像是人类社交本能的自然溢出。真正需要设计的,不是如何阻止这种溢出,而是当它发生时,系统和人各自该承担什么。