当大多数模型还在比拼谁能写得更长、更像人时，Baseten 选择了一个相反的方向：让模型只回答“有多大概率”。
发生了什么
Baseten 发布了 joey-1，一个参数量 2B 的开源权重模型。它与主流对话模型的关键差异在于输出形式——不生成文本，而是返回经过校准的概率值，用于二分类或决策类任务。官方给出的运行指标是 P50 延迟约 20 毫秒，输入成本为每百万 token 0.01 美元。
换句话说，这不是一个用来聊天或写作的模型，而是一个被设计成“判断器”的模型：给定输入，它给出一个可直接用于阈值判断的概率分数。
为什么重要
过去两年，行业默认的范式是“用一个大模型做所有事”，包括分类、打标、路由、风控这类本质上只需要一个分数的任务。用生成式模型做判断，问题很明显：输出是自然语言，需要额外解析；概率往往没有校准，分数不可直接当阈值用；延迟和成本也按 token 计，规模一大就不划算。
joey-1 的思路是把这类任务从生成式模型里拆出来，交给一个更小、更专用、输出更规整的模型。这其实呼应了一个正在发生的分工趋势：通用大模型负责开放域理解和生成，小而专的模型负责高频、低延迟、结果需要可解释的判定环节。开源权重则意味着团队可以自行部署、微调，把判断逻辑握在自己手里，而不是依赖某个 API 的黑盒打分。
影响与看点
对开发者来说，最直接的价值是工程上的简化。分类、内容审核、意图路由、A/B 分流、异常判定这类场景，原本要写 prompt、解析输出、再做后处理，现在可以退化成一次低延迟推理加一个阈值。每百万 token 0.01 美元的价格，也让“每个请求都过一遍模型”在成本上变得可行。
需要冷静看待的点同样存在。2B 的容量决定了它擅长的领域有限，复杂语义判断仍要依赖更大的模型或人工规则；概率“校准”在真实业务分布上是否稳定，需要用自己的数据验证，而不是照搬官方指标；20 毫秒的延迟也依赖部署环境，自托管时的实际表现要单独测。
我的判断是：joey-1 本身未必会成为爆款，但它代表的产品方向值得关注——把“决策”从“生成”里独立出来，做成一种标准化的基础设施。如果这条路走通，未来模型选型的默认问题会从“用哪个大模型”变成“这个环节到底需要生成还是只需要一个概率”。
