你发给 ChatGPT 的内容,可能正被一个陌生人逐条读完并打分。
发生了什么
据 404 Media 报道,OpenAI 雇佣了数百名合同工,专门阅读真实的 ChatGPT 对话记录,并按照 1 到 7 分的量表对回复质量进行评分。报道提到,这项工作的部分目标是减少模型的“谄媚”倾向和过度拟人化的表达。
这些对话在进入人工审阅流程前会做匿名化处理,但报道同时指出,匿名化并不彻底——文本中仍可能残留用户主动输入的敏感信息,比如个人信息、业务细节或其他可识别内容。
另一个值得注意的细节是控制权的位置:用户如果不想让自己的对话被人工查看,需要主动关闭“为所有人改进模型”(Improve the model for everyone)这一设置,而该开关默认处于开启状态。
为什么重要
这不是孤例,而是大模型行业长期存在却很少被摆到台面上的结构性事实。模型训练与评估离不开真实数据,而真实数据里最有价值的部分,恰恰是用户以为“只是随口一问”的那些对话。
从技术角度看,人工评分是 RLHF(基于人类反馈的强化学习)等对齐流程中的常规环节。要判断一条回复是“好”还是“坏”,尤其是判断它是否在讨好用户、是否在编造、是否过度拟人,纯自动化的评估指标往往不够用,需要人来当裁判。问题不在于“有没有人看”,而在于这件事的透明度、边界和用户知情程度。
“减少谄媚”这个目标本身也值得玩味。过去一两年,用户对模型一味附和、动辄道歉、过度肯定的抱怨持续存在,OpenAI 显然把它当成一个需要专门投入人力去纠正的产品问题。这意味着,你在对话框里感受到的“性格”,背后有一部分是外包评分员一分一分调出来的。
影响与看点
对普通用户而言,最直接的行动项是去设置里确认那个默认开启的开关。默认开启、需要主动关闭的设计,本质上把“是否参与数据贡献”变成了一个需要用户自己发现的选项,而不是一次明确询问。这在合规趋严的市场里会越来越难站住脚。
对开发者和企业用户而言,风险更具体。即便对话被匿名化,把内部代码、客户信息、业务逻辑粘贴进对话框,仍然等于把它们交给了一条包含人工环节的处理链路。在缺乏明确数据处理协议的情况下,把敏感内容交给消费级聊天入口,本身就是一次风险决策。
对行业而言,这件事再次说明:大模型的“智能”背后有大量不体面但必要的人工劳动。标注、评分、红队测试,这些工作支撑着模型的行为边界,却长期隐身于产品体验之后。随着监管对数据用途和用户知情的要求提高,把这类流程写进隐私政策、给出更清晰的选择机制,会从“加分项”变成“必选项”。
一个判断:真正的问题不是 OpenAI 用了人工审阅,而是用户直到被报道提醒,才知道自己默认同意了这件事。


