首页 › new-tools › PDF进不来AI?海外这四把刀白送

做RAG、搭知识库、喂Agent的人,八成都在同一件事上翻过车:一份漂亮PDF塞进大模型,出来的全是碎掉的乱码。双栏排版被拦腰剪断,表格变成天书,公式变成问号。然后大家开始怪模型不行、怪Embedding不行、怪向量库选错了——其实九成情况,是「第一公里」的文档解析就喂坏了。

这一期讲的信息差是:海外开发者圈早就磨好了四把专门啃PDF的开源刀,全部免费可自托管,国内聊的人却很少。更讽刺的是,其中一把刀还是中国团队打的,在海外被当宝贝,国内反而没几个人正经用起来。

先搞清楚:为什么PyPDF2救不了你

AI吃文档,吃的不是「人眼看到的版面」,而是「机器读到的文本流」。PDF这种格式天生是给打印机看的,它只记录「这个字符画在哪个坐标」,不记录阅读顺序。所以普通提取器会遇到三个死穴:

  1. 双栏论文:先读左栏一半、右栏一半,再跳回左栏,句子全串了;
  2. 表格:单元格之间的视觉对齐关系丢失,变成一堆孤立数字;
  3. 公式与扫描件:公式直接蒸发,扫描件根本不是文字而是图片。

解法只有一个:用专门的文档解析器,先做版面分析(layout model认出标题、段落、表格、图注),再做结构化还原,最后输出干净的Markdown或JSON。这就是海外这波工具干的事。

第一把刀:Marker——速度型选手

注意坑位:GPL协议对「集成进闭源商业产品」不友好,商用前看清楚Datalab的授权条款,条款以官网为准。

第二把刀:Docling——IBM出品,MIT随便用

from docling.document_converter import DocumentConverter
converter = DocumentConverter()
print(converter.convert("报告.pdf").document.export_to_markdown())

第三把刀:MinerU——中国团队打的刀,海外抢着用

第四把刀:olmOCR——为百万级语料而生

彩蛋:白嫖党的捷径——LlamaParse

不想装任何东西?LlamaIndex家的云解析服务LlamaParse(cloud.llamaindex.ai)长期给免费额度,历史标准是每天约1000页,现在以官网为准。个人项目、原型验证阶段,这个额度基本等于白送,质量也是第一梯队。缺点是文档要上传云端——敏感合同、内部资料,还是老老实实自托管前三把刀。

一条能直接抄的流水线

四把刀怎么选?给你一张决策图:

flowchart TD
    A["一堆PDF:论文、合同、扫描件"] --> B{"里面有扫描件吗"}
    B -->|有| C["MinerU或olmOCR<br/>先做视觉识别"]
    B -->|纯电子版| D["Marker或Docling<br/>直出Markdown"]
    C --> E["表格和公式<br/>抽样人工校对"]
    D --> E
    E --> F["存入Obsidian<br/>或向量数据库"]
    F --> G["接RAG或Agent问答"]
    G --> H["答案必须附原文出处"]

三个实战提醒:

  1. 别跳过校对环节:再好的解析器也会翻车,抽取5%的页数人工抽查,尤其是跨页表格;
  2. 保留JSON输出:Marker和MinerU都能吐带坐标的结构化数据,做「答案溯源到页码」全靠它,这是你的RAG产品看起来专业的关键;
  3. 协议先看后用:MIT(Docling、olmOCR)随便商用;GPL系(Marker、MinerU)自托管自用没问题,嵌进闭源产品前找官方谈授权。

信息差总结

你以为的 别人已经在做的
PDF解析只能买商业OCR,按页掏钱 四件开源货自托管,边际成本≈电费
复制粘贴就能喂AI 双栏、表格、公式会碎成乱码,必须专用解析器
RAG答不准是模型不行 九成翻车在第一公里:文档就喂坏了
国产开源工具国内才火 MinerU是上海AI Lab出品,海外当宝贝,国内反而冷场
解析完直接入库 高手都留结构化JSON,答案能溯源到页码

行动指南

  1. 今天下午:pip install docling,拿一份你最常读的PDF跑通三行代码,感受一下「干净的Markdown」和「复制粘贴的碎文本」差距有多大;
  2. 本周:如果你的文档以中文扫描件为主,换MinerU再跑一遍,对比两者的表格还原效果;
  3. 本月:把解析器挂进你的RAG管道,加上「答案附页码溯源」,这一步做完,你的知识库问答质量会跳一个档;
  4. 持续:免费额度、授权条款、定价随时会变,动手前以各家官网和GitHub README为准。

这四把刀没有一把是上周才发布的——但「工具就在那里,90%的人却还在用错误的方式啃PDF」,这恰恰是最值钱的那种信息差:不用等谁发布新品,你今天就能捡走。


本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护。 聚焦5G/6G核心网、3GPP标准、AI工具实战。知识星球「51学通信」提供深度技术答疑和行业洞察。

[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。

51学通信知识星球海报-扫码加入