百度开源 Unlimited OCR 2:百页文档单次解析,稀疏注意力压低解码成本

百度发布开源 OCR 模型 Unlimited OCR 2,3.34B 参数、MIT 许可,可在单次请求中解析数百页文档。其核心是 SR-SWA 稀疏注意力,让解码单步成本随页数增长趋近持平。

一句话看懂:百度发布开源 OCR 模型 Unlimited OCR 2,3.34B 参数、MIT 许可,可在单次请求中解析数百页文档。其核心是 SR-SWA 稀疏注意力,让解码单步成本随页数增长趋近持平。

事件核心:发生了什么

2026 年 10 月,百度开源 Unlimited OCR 2。这是一个 3.34B 参数的视觉语言模型,输入有序页面图像,输出结构化文本,覆盖文字、表格、公式、图表、标题层级和阅读顺序。权重以 MIT 许可发布,代码托管在 GitHub 上。

关键变化是 SR-SWA(稀疏参考滑动窗口注意力):用 128 token 局部窗口加 32 token 块上的 top-16 选择,把文本-视觉注意力压缩到约 512 token 的固定参考集。Baidu 称这样在文档变长时,每步解码的延迟和显存接近恒定。多页模式下每页约 273 个图像 token,最大位置长度 131,072 tokens。

百度自报评测显示,MPDocBench 得 84.6 分,MarathonDocBench 得 77.1 分;对照的 Kimi-K3 为 33.7 分。最低子项是标题层级,MarathonDocBench 上仅 48.2。所有分数均为百度自报,目前公开信息显示仅以图表形式呈现。

为什么重要

长文档 OCR 的难点不只是识别单页,而是跨页上下文和随页数增长的算力开销。传统全注意力在百页输入下 KV 缓存迅速膨胀,推理成本陡增。SR-SWA 的做法是在有限上下文窗口内模拟“无界”解析,图像编码和总运行时间仍随页数上升,但解码单步成本被压平。

从生态看,MIT 许可降低了商用门槛,3B 级模型也能在单张 CUDA GPU 上以 BF16 跑动,官方测试用 A800-80GB,权重约 6.7GB。这对需要本地部署、对数据合规有要求的企业是现实选项。竞争层面,百度同时握有 Unlimited OCR 与 PaddleOCR 两条线,DeepSeek-OCR 等开源项目也在跟进,长文档解析正成为开源 OCR 的新赛点。

对用户/开发者/创作者的影响

开发者可用 Transformers 做单页测试(gundam 模式),用 infer_multi 单次请求解析整份文档;服务化则需百度定制的 SGLang wheel,加载时要开 trust_remote_code。这意味着集成成本不高,但生产部署对自定义运行时有一定依赖。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

创作者和知识工作者处理书籍、财报、合同等长 PDF 时,多了一个可本地运行的开源选择。不过标题层级子项得分偏低,目录和章节结构要求高的场景仍需人工校对。企业采购方面,MIT 许可和单卡需求值得纳入评估,但建议先用自有文档验证自报分数的可复现性。

值得关注的后续

一是 MarathonDocBench 目前未见公开版本,第三方能否复现 77.1 分是检验关键;二是自定义 SGLang 能否并入上游、降低部署摩擦;三是 Kimi、Qwen 等竞品是否跟进长文档稀疏注意力路线,以及标题层级这一短板是否在后续版本补齐。

来源:MarkTechPost Research

celebrityanime
celebrityanime
文章: 30348

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注