Mineru

🚀 MinerU PDF轉Markdown模型

這個模型能夠將PDF文檔轉換為Markdown格式，有效解決了PDF文檔格式轉換的難題，為用戶提供了便捷的文檔處理方式。

🚀 快速開始

from transformers import pipeline

converter = pipeline("document-conversion", model="kitjesen/MinerU")
markdown = converter("document.pdf")

✨ 主要特性

• 本模型使用多模型組合架構，涵蓋文檔佈局分析、數學公式檢測與識別、表格識別與重建等功能。
• 可將PDF文檔自動轉換為Markdown格式，支持文本佈局分析、數學公式識別和表格結構重建。

📦 安裝指南

文檔未提供具體安裝步驟，故跳過此章節。

💻 使用示例

基礎用法

from transformers import pipeline

converter = pipeline("document-conversion", model="kitjesen/MinerU")
markdown = converter("document.pdf")

高級用法

文檔未提供高級用法代碼示例，故跳過此部分。

📚 詳細文檔

預期用途

本模型用於將PDF文檔自動轉換為Markdown格式，支持：

• 文本佈局分析
• 數學公式識別
• 表格結構重建

侷限性和偏差

• 最大支持頁數：100頁
• PDF文件大小限制：50MB
• 支持語言：中文、英文

訓練數據

模型使用以下數據訓練：

• 學術論文數據集
• 教材文檔數據集
• 技術文檔數據集

訓練過程

使用多階段訓練流程：

1. 預訓練各個子模型
2. 聯合訓練優化
3. 端到端微調

評估結果

• 文本識別準確率：95%
• 公式識別準確率：90%
• 表格重建準確率：85%

環境影響

• 硬件要求：GPU with 8GB+ VRAM
• 推理時間：~2s/頁

🔧 技術細節

模型架構

• Layout: Detectron2 (FasterRCNN)
• MFD: Custom CNN
• MFR: BERT-based
• TabRec: T5-based

硬件要求

• RAM: 16GB+
• GPU: 8GB+ VRAM
• Storage: 5GB

軟件要求

• Python >= 3.7
• PyTorch >= 1.9.0
• transformers >= 4.28.0
• detectron2

📄 許可證

本模型使用Apache-2.0許可證。