做文档解析服务的商业厂商自己下场搭了个擂台,还公布了一份自己排第二的成绩单。

商业文档解析服务商 Datalab 发布了开源评测基准 OmniParseBench,用来自 2,343 份文档、2,937 页的 16,288 个单元测试,给市面上的解析器重新排座次。在其公布的基准榜单中,Gemini 3.8 Flash 以 92.9 分位列第一,Datalab 自家的 accurate 模型以 92.7 分位列第二,两者差距仅仅 0.2 个百分点,前三名之间的最大差距也只有 1.3 分。Datalab 很大度地承认自己卖产品,不争第一,甚至主动标出测试集构建用了参评大模型辅助。但这绝非一场技术公益,而是一场争夺文档解析度量衡话语权的精准卡位。

OmniParseBench 评测判定与计分逻辑 Pass 识别正确 / 计分子 Fail 提取缺失或错 / 计分母 Unsupported 声明不支持 / 剔除分母 Error 评测工具报错 / 剔除分母 评分核算机制的隐藏代价: • 缺失输出直接判 Fail,但若厂商显式声明能力不支持(Unsupported),则不计入总分母 • 传统开源引擎 Tesseract 因缺乏版面抽取被剔除版面项,最终 headline 显示为 none

避开大模型裁判,却设了计分暗门

文档解析是当下大模型检索增强生成(RAG)和智能体工作流落地中最脏、最重的脏活。过去的评测体系早已千疮百孔:AllenAI 的 olmOCR-bench 因测试集固化,头部模型靠过度拟合特定格式就能刷出高分;而 LlamaIndex 的 ParseBench 塞进了表格、图表、忠实度等 5 种异构指标,由于缺少统一量纲,最终分数根本无法合理解释。

评测规则将不支持项移出分母,如同在天平底部设了暗门(示意图)
评测规则将不支持项移出分母,如同在天平底部设了暗门(示意图)

Datalab 选择另起炉灶。OmniParseBench 抛弃了用大模型当裁判(LLM-as-a-judge)的做法,全盘改用无网络的二元单元测试(Pass/Fail)。它把解析拆解为五种极简测试类型:文本存在与否、前后阅读顺序、单行重复次数、表格单元格的行列拓扑关联,以及文本块属于段落还是标题。数字必须逐位一致,公式则通过渲染后的代码进行等效校验。

但这种貌似客观的规则下藏着精巧的裁量口径。评测判定被分成 pass、fail、unsupported 和 error 四种状态。如果模型漏了内容,会被直接判为 fail;但如果厂商在配置中显式声明自己不支持某项能力(unsupported),或者评分工具自身出现崩溃报错(error),这些项就会被直接移出分母,完全不参与最终得分的折算。

这直接导致了排名的失真。老牌开源 OCR 引擎 Tesseract 因为天生不具备版面(layout)结构化抽取能力,该大项直接被视作 unsupported,导致整体总分(headline)显示为 none,在榜单上实际上等于直接出局,其文本分仅有 17.6、表格更是惨淡的 0.0。输出维度越不全的工具,反而可能通过主动放弃弱项,换取局部指标的虚高。

规则制定者的精明,往往不在于如何加分,而在于将什么剔除出分母。

92 种语言背后的样本水准与出题罗生门

营销文案中最亮眼的说辞往往最经不起推敲。OmniParseBench 声称涵盖 92 种语言,但在全部 16,288 个测试项中,英语独占了 10,089 个测试项(覆盖 1,612 份文档)。剩下的 91 种语言瓜分仅存的 1,931 个测试项与 321 份文档。

庞大厚重的英文测试集旁,三十余种语言仅靠单薄纸页维系(示意图)
庞大厚重的英文测试集旁,三十余种语言仅靠单薄纸页维系(示意图)

更致命的是数据分布的长尾断层:多达 32 种语言仅有一份文档作为测试支撑。在统计学上,单一样本根本不具备任何置信度,任何系统在这些语言上的分数波动都更像是掷骰子。此外,基准目前完全没有提供置信区间,测试用例又大量聚集在有限文档内,存在极强的样本依赖性。榜单前三名之间 0.2 到 1.3 分的微小差距,在统计学检验中完全无法证明任何实质性的工程优劣。

OmniParseBench 语种测试样本断层分布 英语 (1,612 份文档) 10,089 项 (62%) 其余 91 种语言总和 (321 份文档) 1,931 项 (12%) 极端长尾失真: 多达 32 种语言全库仅有单一文档支撑,缺乏置信区间,小语种排名不具备统计学效力

更为吊诡的是其测试集构建过程中的口径分裂。Datalab 在博客与榜单标注中大方承认,第一名的 Gemini 3.8 Flash 与 Claude Sonnet 5.5 参与了部分测试题目的生成或验证;然而,在其开源代码仓库的说明文档里,却白纸黑字写着未采用任何参评模型来确立答案或标注标签。究竟是谁在出题,成了一出各执一词的罗生门。重度依赖公开学术标记和既有基准的方案,不仅难以自证出题模型的公正性,更难以摆脱模型预训练阶段的数据污染嫌疑。


是版面还原,还是工作流消费?

这场评测之争的本质,是文档解析两种技术哲学的正面对撞。

版面像素级坐标还原,直面下游向量推理消费的实用考量
版面像素级坐标还原,直面下游向量推理消费的实用考量

Datalab 坚守确定性的版面还原,认为单字、单元格和版面类别的离散匹配才算硬功夫。他们甚至公开拿竞品开刀:其实验显示,将一个 650M 参数的 Surya 模型进行仅仅 70 步强化学习(RL),在 LlamaIndex 的 ParseBench 上得分就能从 78.39 跃升至 82.00,但实际 OCR 识别能力几乎毫无长进,以此抨击对手只是在盲目奖励格式契合度。

文档解析评测的两种路线之争 Datalab 路线:单元测试派 • 核心逻辑:离散排版与字符的二元匹配 • 评测手段:规则代码校验,脱离模型裁判 • 潜在问题:易演变为挑选自身偏好的挑刺集 追求像素级与拓扑结构的客观还原 LlamaIndex 路线:Agent 工作流派 • 核心逻辑:下游大模型的结构化消费 • 评测手段:端到端图表问答、信息忠实度 • 潜在问题:容易被强化学习针对性刷分 强调语义可用性,而非机械对齐

而 LlamaIndex 等对手则代表了智能体时代的实用主义:解析器抽取出的内容不是挂在墙上看的,而是要灌进向量库和下游大模型进行推理消费的。即使一个单元格没有完全对齐原本的坐标,只要核心实体关系和图表语义没有丢失,在整个 Agent 工作流里就是有效输出。Datalab 剔除大量共识题的做法,在对手眼里不过是在刻意挑选符合自己解析器特性的挑战集。

  • 风险.企业在技术选型时切忌迷信大一统榜单的总体分。如果直接套用排名前列的方案,极易在生僻语种、多栏排版混排等真实非标文档场景中全面踩坑。

对于真正的企业架构师来说,OmniParseBench 最大的价值并不是看谁拿了第一,而是它开源的代码允许任何人按标签(tag)横切切片。抛弃那个被均值抚平的总榜,挑出属于你自己业务形态的 50 页财务报表或外语合同跑一次本地测试,往往比看商业厂商搭建的排行榜更真实。