AI2 开源 olmOCR：7B 视觉模型把 PDF 变干净 Markdown，百万页不到 200 美元，olmOCR-Bench 82.4 分碾压 Mistral OCR

AI2 开源 olmOCR：7B 视觉模型把 PDF 变干净 Markdown，百万页不到 200 美元，olmOCR-Bench 82.4 分碾压 Mistral OCR

💡 PDF 转 Markdown 有多难？AI2 说：7B 模型就够了。olmOCR 基于 Qwen2.5-VL 微调，支持 PDF/PNG/JPEG 一键转干净 Markdown；数学公式、表格、手写体、多栏排版、复杂嵌套全搞定；自动去除页眉页脚；自然阅读顺序还原；v0.4.0 引入 RL 训练，olmOCR-Bench 82.4 分；百万页转换不到 $200；12GB 显存即可本地运行；vLLM 推理引擎；AWS S3 多节点并行；Docker 一键部署；Cirrascale/DeepInfra/Parasail 云端 API 按需调用；两篇 arXiv 论文；AI2 出品，Apache 2.0 开源。

📌 目录

• 1. olmOCR 是什么？
• 2. 核心特性
• 3. olmOCR-Bench：7000+ 测试用例横评
• 4. 版本演进与 RL 训练
• 5. 安装指南
• 6. 使用实战
• 7. 云端推理：无需 GPU
• 8. 多节点集群：百万 PDF 并行
• 9. Docker 部署
• 10. 可复用代码模块
• 11. 竞品深度对比
• 12. 成本分析
• 13. 优缺点与使用建议
• 14. 总结

1. olmOCR 是什么？

olmOCR是 Allen Institute for AI (AI2) 开源的 PDF 线性化工具包，将 PDF 和图像文档转换为干净、可读的纯文本/Markdown 格式。

• 🔗 项目地址：https://github.com/allenai/olmocr
• 🌐 在线体验：https://olmocr.allenai.org/
• 📄 论文 v1：arXiv 2502.18443
• 📄 论文 v2：arXiv 2510.19817（RL 训练 + Unit Test Rewards）
• 📜 许可证：Apache 2.0
• 🏢 维护方：AI2 AllenNLP 团队
• 📌 当前版本：v0.4.0（olmOCR-2-7B-1025-FP8）

一句话总结

olmOCR = AI2 出品的 PDF→Markdown 转换器 = 7B 视觉语言模型驱动 = 数学公式/表格/手写/多栏全支持 = 百万页 < $200 = 12GB 显存本地运行 = vLLM + S3 多节点并行 = 两篇 arXiv 论文

2. 核心特性

3. olmOCR-Bench：7000+ 测试用例横评

olmOCR 自带olmOCR-Bench基准测试，覆盖 7,000+ 测试用例、1,400+ 文档，8 大维度全面评测。

综合得分排行

⚠️ 标 * 号的工具可能使用了 olmOCR-Bench 训练数据，结果仅供参考。

olmOCR 优势维度

4. 版本演进与 RL 训练

版本时间线

v0.4.0 核心突破：RL 训练 + Unit Test Rewards

olmOCR v1 → 纯 SFT 监督微调 olmOCR v2 → SFT + GRPO 强化学习 创新点：Unit Test Rewards 传统 RLHF：人类标注偏好 → 训练奖励模型 → PPO olmOCR v2：编写"单元测试"作为奖励信号 → GRPO 训练 优势： ✅ 无需人工标注偏好数据 ✅ 奖励信号精确可控 ✅ 可针对特定错误类型（如表格错位、公式乱码）定向优化 ✅ Bench 得分从 78.x → 82.4，提升约 4 分

5. 安装指南

系统依赖（Ubuntu/Debian）

sudoapt-getupdatesudoapt-getinstallpoppler-utils ttf-mscorefonts-installer msttcorefonts\fonts-crosextra-caladea fonts-crosextra-carlito gsfonts lcdf-typetools

创建独立环境

conda create-nolmocrpython=3.11conda activate olmocr

⚠️ olmocr 依赖较复杂，务必使用全新环境！

四种安装方式

GPU 加速推荐

# 安装 FlashInfer 加速推理（强烈推荐）pipinstallhttps://download.pytorch.org/whl/cu128/flashinfer/flashinfer_python-0.2.5%2Bcu128torch2.7-cp38-abi3-linux_x86_64.whl

故障排除

# "too many open files" 错误ulimit-n65536

硬件需求

6. 使用实战

单个 PDF 转换

# 下载样例 PDFcurl-oolmocr-sample.pdf https://olmocr.allenai.org/papers/olmocr_3pg_sample.pdf# 转换为 Markdownolmocr ./localworkspace--markdown--pdfsolmocr-sample.pdf# 查看结果catlocalworkspace/markdown/olmocr-sample.md

图像文件转换

olmocr ./localworkspace--markdown--pdfsrandom_page.png

批量 PDF 转换

olmocr ./localworkspace--markdown--pdfstests/gnarly_pdfs/*.pdf

使用远程推理服务器

olmocr ./localworkspace\--serverhttp://remote-server:8000/v1\--modelallenai/olmOCR-2-7B-1025-FP8\--markdown\--pdfs*.pdf

输出说明

./localworkspace/ ├── markdown/ # Markdown 输出（--markdown 时生成） │ ├── doc1.md │ ├── doc2.md │ └── ... └── dolma/ # Dolma 格式输出（训练数据格式） └── ...

常用参数

7. 云端推理：无需 GPU

轻量安装

# 无需 GPU 依赖！pipinstallolmocr

自建 vLLM 服务

vllm serve allenai/olmOCR-2-7B-1025-FP8 --max-model-len16384

已验证云端提供商

Cirrascale 示例

olmocr ./workspace\--serverhttps://ai2endpoints.cirrascale.ai/api\--api_keysk-XXXXXXX\--workers1\--max_concurrent_requests20\--modelolmOCR-2-7B-1025\--pdfstests/gnarly_pdfs/*.pdf

DeepInfra 示例

olmocr ./workspace\--serverhttps://api.deepinfra.com/v1/openai\--api_keyDfXXXXXXX\--workers1\--max_concurrent_requests20\--modelallenai/olmOCR-2-7B-1025\--pdfstests/gnarly_pdfs/*.pdf

8. 多节点集群：百万 PDF 并行

AWS S3 多节点方案

# 节点 1：启动 + 添加 PDFolmocr s3://my_s3_bucket/pdfworkspaces/exampleworkspace\--pdfss3://my_s3_bucket/jakep/gnarly_pdfs/*.pdf# 节点 2-N：自动加入工作队列olmocr s3://my_s3_bucket/pdfworkspaces/exampleworkspace

工作流程： S3 Bucket (pdfworkspaces/exampleworkspace) ├── work_queue/ ← 待处理 PDF 列表 ├── results/ ← 已完成结果 └── checkpoints/ ← 进度检查点 Worker 1 ──→ 拉取任务 ──→ 处理 PDF ──→ 写入结果 Worker 2 ──→ 拉取任务 ──→ 处理 PDF ──→ 写入结果 Worker N ──→ 拉取任务 ──→ 处理 PDF ──→ 写入结果 自动负载均衡，Worker 随时增减！

Beaker 集群（AI2 内部）

pipinstallolmocr[gpu,beaker]--extra-index-url https://download.pytorch.org/whl/cu128 olmocr s3://my_s3_bucket/pdfworkspaces/exampleworkspace\--pdfss3://my_s3_bucket/jakep/gnarly_pdfs/*.pdf\--beaker--beaker_gpus4

9. Docker 部署

拉取镜像

# 含模型镜像（~30GB，开箱即用）dockerpull alleninstituteforai/olmocr:latest-with-model# 基础镜像（自行管理模型下载）dockerpull alleninstituteforai/olmocr:latest

处理单个 PDF

dockerrun--gpusall\-v$(pwd):/workspace\alleninstituteforai/olmocr:latest-with-model\-c"olmocr /workspace/output --markdown --pdfs /workspace/sample.pdf"

批量处理

dockerrun--gpusall\-v/path/to/pdfs:/input\-v/path/to/output:/output\alleninstituteforai/olmocr:latest-with-model\-c"olmocr /output --markdown --pdfs /input/*.pdf"

交互式调试

dockerrun-it--gpusall alleninstituteforai/olmocr:latest-with-model

10. 可复用代码模块

olmOCR 提供多个可独立使用的模块，适合二次开发：

11. 竞品深度对比

OCR 工具全方位对比

关键差异化

olmOCR vs Mistral OCR API： ✅ 开源可本地部署 vs 闭源仅 API ✅ 82.4 vs 72.0 综合得分（+10.4） ✅ 数学公式 82.3 vs 67.5 ✅ 表格 84.9 vs 60.6 ✅ 百万页 < $200 vs API 按量计费 olmOCR vs Marker/MinerU： ✅ VLM 驱动 vs 传统管线 ✅ 数学公式和复杂排版更强 ✅ 批量处理 S3 多节点 ✅ 训练代码完全开源 ✅ 2篇学术论文支撑 olmOCR vs PaddleOCR-VL： ✅ 综合得分 82.4 vs 80.0 ✅ 数学公式 82.3 vs 71.0 ✅ 多栏 83.7 vs 79.9 ⚠️ PaddleOCR-VL 旧扫描得分更高（37.8 vs 47.7...等一下，实际是旧扫描得分 PaddleOCR 低）

12. 成本分析

本地 GPU 运行

云端 API 运行

与 Mistral OCR API 对比

13. 优缺点与使用建议

✅ 优点

⚠️ 注意事项

💡 使用建议

1. 先试在线 Demo：olmocr.allenai.org，快速体验效果
2. 轻量安装 + 云端 API：无 GPU 时用 DeepInfra/Cirrascale，pip install olmocr即可
3. 本地 GPU 用 FP8 模型：olmOCR-2-7B-1025-FP8，12GB 显存即可
4. 批量处理用 S3 模式：多 Worker 并行，百万级 PDF 无压力
5. Docker 快速部署：latest-with-model镜像开箱即用
6. 自己训练用 GRPO：训练代码完全开源，Unit Test Rewards 方法可复用
7. 关注版本更新：从 v0.1.58 到 v0.4.0，每个版本都有显著提升

14. 总结

olmOCR 是当前开源 PDF→Markdown 领域的顶尖项目：

• 📝82.4 分olmOCR-Bench 综合得分，数学公式/表格/多栏全面领先
• 🧠7B VLM驱动，FP8 量化 12GB 显存可用
• 💰< $200 / 百万页，本地运行近乎免费
• 🔬RL 训练创新：Unit Test Rewards + GRPO，arXiv 两篇论文
• 📦全开源：模型权重 + SFT/GRPO 训练代码 + 推理流水线
• 🌐灵活部署：本地 GPU / 云端 API / Docker / S3 多节点
• 🏢AI2 出品：AllenNLP 团队维护，学术 + 工程双保障

推荐指数：⭐⭐⭐⭐⭐

无论你是要把论文 PDF 转成训练数据，还是要批量处理企业文档，olmOCR 都是当前最好的开源选择。7B 模型 + RL 训练 + 全开源 + 超低成本，PDF 转 Markdown 就该这么简单。

📢 项目地址：https://github.com/allenai/olmocr
🌐 在线体验：https://olmocr.allenai.org/
📄 论文 v1：arXiv 2502.18443
📄 论文 v2：arXiv 2510.19817
🐳 Docker：Docker Hub

标签：#olmOCR #AI2 #PDF转Markdown #OCR #VLM #RL训练 #GRPO #文档处理