OCR 评测长期缺少一个可复核、可拆解的公开标尺,OmniParseBench 试图补上这一环。
发生了什么
Datalab 发布了 OmniParseBench,一个开源的 OCR 解析器评测基准。它的核心设计不是传统的字符错误率或编辑距离打分,而是 16,288 项「是/否」判定测试,分布在 2,937 页文档上,覆盖 92 种语言。每一项测试都给出通过或失败的结果,最终得分即通过率,并且可以按标签、书写系统(script)或语言进行切片查看。
换句话说,它把「这个解析器行不行」拆解成大量可独立验证的具体问题,而不是压缩成一个笼统的分数。
为什么重要
过去几年,文档解析从「识别文字」扩展到版面还原、表格抽取、公式识别、阅读顺序重建,模型能力提升很快,但评测方式没有同步跟上。常见的做法是在少数英文数据集上算一个平均指标,问题在于:聚合分数会掩盖失败模式。一个模型可能在英文印刷体上表现优异,却在阿拉伯语、天城文或竖排文本上系统性崩溃,而这些差异在单一数字里完全看不见。
OmniParseBench 的三个设计选择值得注意:一是用通过/失败而非连续误差,判定标准更接近实际下游任务是否可用;二是语言与书写系统的覆盖面达到 92 种,把多语言能力从「加分项」变成「必答题」;三是评测结果可按维度切片,让使用者能定位具体短板,而不是只拿到一个排名。开源则意味着评测集和判定逻辑可以被第三方复核,减少了基准本身被过拟合的空间。
影响与看点
对 OCR 与文档解析方向的开发者来说,这类基准的价值不在于排名,而在于诊断。可切片意味着团队可以针对自己业务涉及的语言和文档类型,查看模型在对应子集上的通过率,从而决定是换模型、微调还是加后处理规则。
对做 RAG、文档问答和票据处理的团队,文档解析是整条链路的入口,入口处的错误会向下游放大。一个能按语言和书写系统拆解的通过率,比一个总体准确率更能帮助判断某套方案是否适合特定语种市场。
需要保持克制的是:通过/失败测试的判定标准由谁定义、由谁标注,直接决定了基准的可信度。16,288 这个规模听起来可观,但分摊到 92 种语言后,每种语言的实际样本量是否足够支撑细粒度结论,仍需看具体分布。此外,基准发布只是起点,真正的检验在于它能否被社区持续维护和扩展,而不是发布后逐渐固化。
一个独立判断:OCR 评测正在从「比谁分数高」转向「比谁失败得少、失败得清楚」,OmniParseBench 的切片能力比它的总分更有长期价值。



