把已有扫描件批量转成可搜索文本,百万页的 GPU 租金可以低至 65 美元。Hugging Face 的 Daniel van Strien 在同一块显卡上测试了八款开放式光学字符识别(OCR)模型。前后相隔约一年半的两款模型,千页推理成本相差约5.4 倍。图书馆因此可以用更少的算力预算给积压馆藏建全文索引,项目能做多大,还得看难页返工和人工复核要花多少工时。

LightOnOCR 拉低千页报价,部署优化也能省钱测试使用每小时租金2.75 美元的 NVIDIA RTX PRO6000,处理了350 页自然史书籍、250 页《1771 年大英百科全书》和250 页打字或印刷档案。按材料估算,百万页租金为65 至130 美元,计算时排除了服务器启动时间。

在相同输入尺寸下,2025 年4 月发布的 RolmOCR 每千页花费0.509 美元,2026 年10 月发布的 LightOnOCR-3-0.8B 降至 0.095 美元。中间有五款模型挤在0.23 至0.28 美元之间。首尾差距很大,模型发布的间隔里却有一段明显的平台期。

密集页面更能说明部署的作用。研究者改用并发服务、换用更大的 GPU、调整图像尺寸并更新 vLLM 后,GLM-OCR 的千页成本由1.57 美元降至0.40 美元。同一批页面改用 LightOnOCR 后,成本进一步降至0.13 美元。这组实验能看出整套改动的收益,各项改动分别省了多少仍无法拆算。

<svg viewBox='00760284' width='100%' height='284' role='img' aria-label='密集页每千页GPU成本对比,GLM原配置1.57美元,优化后0.40美元,换用LightOnOCR后0.13美元'>
<rect x='1' y='1' width='758' height='282' rx='16' fill='#fbf9f4' stroke='#e2dccf'/>
<text x='32' y='43' font-size='20' font-weight='700' fill='#b25a3a'>密集页的算力账</text>
<line x1='32' y1='59' x2='728' y2='59' stroke='#e2dccf' stroke-width='1'/>
<text x='728' y='88' text-anchor='end' font-size='13' fill='#7a7266'>美元/千页</text>
<text x='32' y='128' font-size='17' fill='#2c2822'>GLM 原配置</text>
<rect x='186' y='109' width='420' height='24' rx='3' fill='#d8d0c2'/>
<text x='728' y='128' text-anchor='end' font-size='19' fill='#2c2822'>1.57</text>
<text x='32' y='184' font-size='17' fill='#2c2822'>GLM 优化后</text>
<rect x='186' y='165' width='107' height='24' rx='3' fill='#d8d0c2'/>
<text x='728' y='184' text-anchor='end' font-size='19' fill='#2c2822'>0.40</text>
<text x='32' y='240' font-size='17' fill='#2c2822'>换用 LightOn</text>
<rect x='186' y='221' width='35' height='24' rx='3' fill='#b25a3a'/>
<text x='728' y='240' text-anchor='end' font-size='19' font-weight='700' fill='#b25a3a'>0.13</text>
</svg>

百万页租金随评测条件变动另一项测试把并发数设为32,在同一块 A100 上跑同一批材料。LightOnOCR-2-1B、MinerU2.5-Pro-1.2B、olmOCR-2 和 dots.mocr 的百万页 GPU 成本分别估为416、432、453 和1,005 美元。LightOn 自己给 LightOnOCR-3-0.8B 算的是359 美元,降低渲染分辨率后约为249 美元,均未计预处理、存储、闲置和人工复核。

这些报价反映了各自的硬件和页面设置。图书馆试算预算时,得用自己的扫描件,在相同的验收标准下比价。van Strien 提醒,即使在他的完整数据集上,不足约25% 的成本差距也可能落在测量噪声内。

普通书页识别接近,双栏和表格各有胜负在282 页人工核验的书页上,LightOnOCR-3-0.8B、RolmOCR 和 GLM-OCR 的字符错误率分别为0.45%、0.50% 和0.44%。视觉模型评审更偏好 LightOnOCR 的书页输出,票数为35 比7,打字页为18 比9,另有22 页结果不明确。到了《大英百科全书》的密集双栏,两款模型基本打平,RolmOCR还胜过其余六款。

LightOnOCR-3-0.8B 在 olmOCR-Bench 上得了85.5 分,但在 OmniParseBench 的表格项目中只得72.1 分,低于 MinerU2.5-Pro 的92.1 和 dots.mocr 的88.6。即使识别出了表里的字,行列归错仍会改变数据含义。含表格、公式或多语种的馆藏,试跑时应单独抽样。

用三种无字页面样张,分别检验版式识别(示意图)
用三种无字页面样张,分别检验版式识别(示意图)

重复和空白页错误要在入库前拦住FineBooks 用2,165 页历史书籍评测发现,LightOnOCR-3-0.8B 在 vLLM0.30.0 下约有0.88% 的页面触发重复输出循环,部分循环与服务版本有关。稀疏或空白页的字符错误率为2.80,内容页为0.0337。纯白图被编成文档、反复冒出公式的公开案例出自旧版 LightOnOCR-2-1B。新版在真正空白页上的幻觉率仍缺少公开定量结果。

<svg viewBox='00760228' width='100%' height='228' role='img' aria-label='扫描件按页型分流,经过异常检测和抽检后进入检索索引'>
<rect x='1' y='1' width='758' height='226' rx='16' fill='#fbf9f4' stroke='#e2dccf'/>
<text x='32' y='43' font-size='20' font-weight='700' fill='#b25a3a'>全文索引的入库关口</text>
<line x1='32' y1='59' x2='728' y2='59' stroke='#e2dccf' stroke-width='1'/>
<rect x='32' y='92' width='150' height='100' rx='9' fill='#f5f0e8' stroke='#e2dccf'/>
<rect x='214' y='92' width='150' height='100' rx='9' fill='#f5f0e8' stroke='#e2dccf'/>
<rect x='396' y='92' width='150' height='100' rx='9' fill='#f5f0e8' stroke='#b25a3a'/>
<rect x='578' y='92' width='150' height='100' rx='9' fill='#f5f0e8' stroke='#e2dccf'/>
<line x1='187' y1='142' x2='202' y2='142' stroke='#7a7266' stroke-width='1.5'/>
<polygon points='202,138209,142202,146' fill='#7a7266'/>
<line x1='369' y1='142' x2='384' y2='142' stroke='#7a7266' stroke-width='1.5'/>
<polygon points='384,138391,142384,146' fill='#7a7266'/>
<line x1='551' y1='142' x2='566' y2='142' stroke='#7a7266' stroke-width='1.5'/>
<polygon points='566,138573,142566,146' fill='#7a7266'/>
<text x='107' y='136' text-anchor='middle' font-size='17' font-weight='700' fill='#2c2822'>扫描影像</text>
<text x='289' y='136' text-anchor='middle' font-size='17' font-weight='700' fill='#2c2822'>按页分流</text>
<text x='471' y='136' text-anchor='middle' font-size='17' font-weight='700' fill='#b25a3a'>异常复核</text>
<text x='653' y='136' text-anchor='middle' font-size='17' font-weight='700' fill='#2c2822'>全文入库</text>
<text x='107' y='163' text-anchor='middle' font-size='13' fill='#7a7266'>保留原页</text>
<text x='289' y='163' text-anchor='middle' font-size='13' fill='#7a7266'>区分空白与版式</text>
<text x='471' y='163' text-anchor='middle' font-size='13' fill='#7a7266'>查重复并抽检</text>
<text x='653' y='163' text-anchor='middle' font-size='13' fill='#7a7266'>链接原始影像</text>
</svg>

推理报价之外,档案馆还要付扫描、图像清理、存储、失败重跑、人工校对和建索引的钱。决定是否扩批时,可以先让普通书页走低价模型,把双栏和表格送到各自试跑表现更好的模型,再筛掉空白页和重复输出。验收时记录每千页复核工时,按页型追踪返工量。等这两笔账有了,再决定下一批馆藏有多少页能进入公开检索。