MinerU - OpenDataLab推出的开源智能数据提取工具

MinerU是什么

MinerU是上海人工智能实验室OpenDataLab团队推出的开源智能数据提取工具，专注于复杂PDF文档的高效解析与提取。MinerU能将包含图片、公式、表格等元素的多模态PDF文档转化为易于分析的Markdown格式，支持从网页和电子书中提取内容，提高AI语料准备效率。MinerU具备高精度的PDF模型解析工具链，支持多种输入模型，自动识别乱码，保留文档结构，转换公式为LaTex，适用于学术、财务、法律等多个领域，支持CPU和GPU，兼容Windows/Linux/Mac平台，性能卓越。

MinerU的主要功能

PDF到Markdown转换：将包含多种内容类型的PDF文档转换为结构化的Markdown格式，便于进一步的编辑和分析。
多模态内容处理：能识别和处理PDF中的图像、公式、表格和文本等多种内容。
结构和格式保留：在转换过程中，保留原始文档的结构和格式，如标题、段落和列表。
公式识别与转换：特别针对数学公式，能识别并转换成LaTeX格式，方便学术交流和技术文档使用。
干扰元素去除：自动删除页眉、页脚、脚注和页码等非内容元素，净化文档信息。
乱码识别与处理：自动识别并纠正PDF文档中的乱码，提高信息提取的准确性。
高质量解析工具链：集成了先进的PDF解析工具，包括布局检测、公式检测和光学字符识别（OCR），确保提取结果的高准确度。

MinerU的技术原理

PDF文档分类预处理：在处理PDF文档之前，MinerU首先对文档进行分类，识别其类型（如文本型、图层型或扫描版PDF），并进行相应的预处理，例如检测乱码和识别是否为扫描文档。
模型解析与内容提取：
- 布局检测：使用基于深度学习的模型，如LayoutLMv3，进行区域检测，识别文档中的图像、表格、标题和文本等不同区域。
- 公式检测：利用基于YOLOv8的自研模型来识别文档中的数学公式，区分行内公式和行间公式。
- 公式识别：通过自研的UniMERNet模型来识别和解析数学公式，将它们转换成LaTeX格式。
- 光学字符识别（OCR）：使用PaddleOCR等OCR技术来识别文档中的文本内容。
管线处理：将模型解析得到的数据输入到处理管线中，进行后处理，包括：
- 确定块级别的顺序。
- 删除无用元素。
- 根据版面进行内容排序和拼装，以保证正文的流畅性。
- 进行坐标修复、高iou处理、图片和表格描述合并、公式替换、图标转储、Layout排序等操作。
多种格式输出：处理后的文档信息可以转换为统一的中间态格式（middle-json），并根据需求输出为不同的格式，如Layout、Span、Markdown或Content list等。
PDF提取结果质检：使用人工标注的PDF自测评测集对整个流程进行检测，确保提取效果的优化。使用可视化质检工具进行人工质检与标注，反馈给模型训练，进一步提升模型能力。