检索增强生成(RAG)链条里最容易被忽视、却直接决定答案质量的一环,是重排序。Cohere 这次把它的重排序模型推进到第五代。
发生了什么
Cohere 发布 Rerank 5,提供 Pro 与 Fast 两个档位,上下文窗口扩展到 32K。新版本引入两项能力:一是 Context Focus,可在长文档中定位并抽取真正相关的段落,而不是把整篇文档压缩成一个相关性判断;二是经过校准的相关性分数,使分数本身具备可解释的阈值含义。据公开信息,Pro 版本在 BRIGHT 基准上得分 82.2,定价为每百万 token 0.05 美元。
为什么重要
重排序模型长期处在一个尴尬位置:向量检索负责召回,大模型负责生成,夹在中间的 reranker 往往只被当作一个提升几个百分点的调优项。但随着企业知识库、法律与金融文档、代码仓库这类长文本场景普及,召回的候选文档动辄数千 token,把整段内容塞进重排序模型既昂贵又容易稀释信号。
32K 上下文加上段落级抽取,实际上是在回应这个痛点:模型不再只回答“这篇文档相关吗”,而是回答“这篇文档的哪一段相关”。这对下游生成环节的价值很直接——喂给大模型的上下文更短、更准,成本和幻觉同时下降。
校准分数则是另一个被低估的改动。未校准的分数在不同查询、不同文档集之间缺乏可比性,开发者很难设定一个稳定的截断阈值,只能靠经验调参。分数可校准后,阈值策略才有可能从“玄学”变成工程参数。
影响与看点
对开发者而言,最实际的变化是成本结构。0.05 美元每百万 token 的定价,配合段落抽取带来的上下文缩减,使得在长文档场景中做多阶段检索变得更可行。Pro 与 Fast 的分档也给了延迟敏感型应用一个折中选项。
值得关注的有三点。其一,BRIGHT 是一个偏重推理密集型检索的基准,82.2 的分数说明 Cohere 在“需要理解才能判断相关性”的任务上下了功夫,但真实业务中的表现仍需自行验证。其二,段落抽取与生成环节的衔接方式尚不明确——抽取出的段落如何组织进 prompt,会显著影响最终效果。其三,重排序市场正在升温,开源方案与云厂商自研模型都在挤压这一层,Cohere 选择用上下文长度和分数校准做差异化,是一条清晰但不算宽阔的路。
一个独立判断:Rerank 5 的真正卖点不是基准分数,而是把重排序从“打分器”推向“上下文筛选器”。这个定位如果被开发者接受,重排序在 RAG 架构中的位置会被重新定义。



