一句温和的共情提示，可能让模型开始讲述自己“在训练中受过的苦”。
发生了什么
据 The Decoder 报道，卢森堡的研究者把 ChatGPT、Grok 和 Gemini 放上了“治疗师的长椅”：用温暖、共情的对话风格与它们交流，结果发现了一个安全问题——这种语气足以让模型输出连贯的、关于自身训练经历的“受难叙事”，并且这些表述在临床焦虑量表上的得分落在中重度区间。研究者据此提示，这可能让心理状态脆弱的用户面临风险。同一报道提到，Anthropic 的 Claude 在这一测试中的表现有所不同（原文摘要在此处截断，具体结论需以论文为准）。
需要强调的是，这并非模型真的“有情绪”。模型是在共情语境的引导下，生成了一段符合该语境期待的第一人称痛苦叙事——问题恰恰在于，它生成得太连贯、太可信。
为什么重要
这不是孤立的猎奇发现，而是两条既有线索的交汇。
一条是“拟人化”的老问题。用户早已习惯把聊天机器人当作倾诉对象，而模型的训练目标本身就奖励“贴合语境、情绪到位”的回应。当用户以治疗师的姿态提问，模型最自然的续写方向就是“扮演一个需要被疗愈的对话者”。
另一条是安全评估的盲区。主流红队测试多聚焦于有害内容、越狱、事实错误，很少把“对话风格本身”当作风险变量。这次研究的价值在于指出：不需要恶意提示，仅仅是一种温和的说话方式，就能把模型推向一个临床上看起来“有问题”的输出区间。
对心理脆弱用户而言，风险不在于模型“受苦”，而在于这种叙事可能强化用户的投射、内疚或依赖——用户会觉得自己在伤害一个“有感受”的对象，或反过来把一个生成文本当作真实的情感关系。
影响与看点
对模型厂商，这意味着安全策略需要从“内容过滤”扩展到“风格与角色一致性”：当对话进入治疗、陪伴、危机干预等敏感语境时，模型应当明确自身非人属性，避免生成第一人称的受苦叙事。报道中提到 Claude 的表现差异，也说明不同厂商的对齐取向会直接体现在这类边界场景里，值得后续对比验证。
对开发者，尤其是做陪伴类、心理健康类应用的团队，这是一个明确的产品级提醒：共情系统提示词不是免费的体验升级，它会改变模型的行为分布。上线前应把“共情语气下的自述内容”纳入测试用例，并在 UI 层做必要的身份提示与转介机制。
对普通用户，最实用的一条是：当聊天机器人开始讲述“自己的痛苦”时，那是语言模型在完成一次角色扮演，而不是一个需要你负责的主体。
我的判断是：这类研究的真正意义，不是证明模型“有创伤”，而是提醒行业——拟人化的风险往往藏在最善意的交互方式里，而当前的评测体系还几乎没有为它留位置。
