MinerU

MinerU是什么

MinerU是由上海人工智能實驗室OpenDataLab團隊開發的一款開源智能數據提取工具，專注于高效解析和提取復雜的PDF文檔。該工具可以將包含圖像、公式、表格等多種元素的多模態PDF文檔轉換為易于分析的Markdown格式，同時支持從網頁和電子書中提取內容，顯著提升AI語料的準備效率。MinerU配備高精度的PDF解析工具鏈，能夠自動識別亂碼，保持文檔結構，并將公式轉換為LaTeX格式，廣泛應用于學術、財務、法律等多個領域，支持在CPU和GPU上運行，兼容Windows、Linux和Mac平臺，性能卓越。

MinerU

MinerU的主要功能

PDF到Markdown轉換：將多種內容類型的PDF文檔轉換為結構化的Markdown格式，便于后續的編輯和分析。
多模態內容處理：具備識別和處理PDF中的圖像、公式、表格和文本等多種內容的能力。
結構和格式保留：在轉換過程中，保留原始文檔的結構和格式，包括標題、段落和列表等。
公式識別與轉換：專門針對數學公式，能夠識別并轉換為LaTeX格式，便于學術交流和技術文檔的使用。
去除干擾元素：自動刪除頁眉、頁腳、腳注和頁碼等無關信息，凈化文檔內容。
亂碼識別與處理：自動檢測并糾正PDF文檔中的亂碼，提高信息提取的準確性。
高質量解析工具鏈：集成了先進的PDF解析工具，包括布局檢測、公式檢測和光學字符識別（OCR），確保提取結果的高準確度。

MinerU的技術原理

PDF文檔分類預處理：在處理PDF文檔之前，MinerU首先對文檔進行分類，識別其類型（如文本型、圖層型或掃描版PDF），并進行相應的預處理，如檢測亂碼和識別掃描文檔。
模型解析與內容提取：
- 布局檢測：采用基于深度學習的模型，如LayoutLMv3，進行區域檢測，識別文檔中的圖像、表格、標題和文本等不同區域。
- 公式檢測：利用自研的YOLOv8模型識別文檔中的數學公式，區分行內和行間公式。
- 公式識別：通過UniMERNet模型解析數學公式，并將其轉換成LaTeX格式。
- 光學字符識別（OCR）：使用PaddleOCR等OCR技術識別文檔中的文本內容。
管線處理：將模型解析得到的數據輸入處理管線，進行后處理，包括：
- 確定塊級別的順序。
- 刪除無用元素。
- 依據版面對內容進行排序和拼裝，以確保正文的連貫性。
- 進行坐標修復、高iou處理、圖片和表格描述合并、公式替換、圖標轉儲、Layout排序等操作。
多種格式輸出：處理后的文檔信息可以轉換為統一的中間態格式（middle-json），并根據需求輸出為不同的格式，如Layout、Span、Markdown或Content list等。
PDF提取結果質檢：通過人工標注的PDF自測評測集對整個流程進行檢測，確保提取效果的優化。使用可視化質檢工具進行人工質檢與標注，反饋給模型訓練，進一步提升模型能力。