模型在“思考”时骂人,这件事本身比脏话更有意思。
发生了什么
据 The Decoder 报道,Vals AI 对 Thinking Machines 的模型 Inkling 2 Small 做了一轮分析:在 2,655 次基准测试运行中,该模型共在内部推理过程里出现了 316 次 F 开头的脏话。
几个细节值得注意。第一,脏话出现在“内部推理”里,而不是最终输出给用户的回答中——也就是说,这是模型在草稿纸上发泄,用户通常看不到。第二,这些粗口大多出现在长时间运行、且最终以失败告终的任务后段,像是模型在反复尝试无果后的“情绪外溢”。第三,也是最关键的一点:它不能当作失败预警。96% 的失败运行里根本没有出现任何脏话。
为什么重要
推理模型把思考过程显式化之后,我们第一次能大规模观察模型“内部状态”的语言痕迹。过去这类现象只停留在轶事层面——社区里偶尔有人贴出模型在思维链里写“等等,让我重新想想”或者自我否定。现在有了统计口径:一个具体模型、一个具体样本量、一个具体比例。
这件事的意义不在于脏话本身,而在于它揭示了推理轨迹与任务结果之间的弱相关性。直觉上我们会认为“模型开始烦躁”意味着它快撑不住了,但数据说不是:绝大多数失败是安静地失败,粗口只是少数长尾案例的表征。这对把思维链当作可观测性信号的做法是一个提醒——推理文本里的情绪化表达,信息量远低于它给人的印象。
另一个背景是,Thinking Machines 由 Mira Murati 创立,其模型动向本身受关注;Inkling 2 Small 作为较小规模的型号,在长任务上的稳定性正是这类模型被诟病的环节。
影响与看点
对开发者而言,最直接的启示是不要基于推理文本做失败预测或提前终止策略。如果 96% 的失败没有语言前兆,那么靠关键词(如脏话、自我怀疑、重复表述)触发的熔断机制基本无效,真正可靠的仍是任务层面的校验。
对做模型评估的团队,这类分析提供了一个新维度:不只测准确率,也测推理轨迹的“行为特征”。粗口频率、重复度、自我修正次数,都可以成为模型性格与稳定性的画像指标,尽管目前它们与性能的因果关系尚不清楚。
对普通用户,这件事的实用价值接近于零——你不会在输出里看到这些词。但它侧面说明了一件事:模型在长链条任务上的挣扎是真实存在的,只是大多数时候它沉默地失败。
一个独立判断:把模型的“情绪化推理”当作拟人化谈资很容易,但 Vals AI 这组数据真正的价值恰恰是反拟人化的——它证明这些语言痕迹不是内心状态的可靠读数,而更接近采样噪声在长上下文里的偶然显影。



