Trocr Medieval Latin Caroline

🚀 中世纪拉丁卡罗琳字体TROcr模型

这是一个用于中世纪拉丁语，特别是卡罗琳字体的TROcr模型。该模型能将中世纪拉丁语的卡罗琳字体图像转换为文本，为研究中世纪文献提供了便利。

🚀 快速开始

本模型是基于microsoft/trocr-base-handwritten基础模型，利用CATMuS数据集中的示例进行微调得到的。不过该模型尚未经过正式测试，初步检查表明还需要进一步微调。微调使用的是本仓库中的finetune.py文件。

✨ 主要特性

• 针对性强：专门针对中世纪拉丁语的卡罗琳字体进行优化。
• 基于预训练模型：以microsoft/trocr-base-handwritten为基础，提升训练效率。

📦 安装

文档未提及安装步骤，暂不展示。

💻 使用示例

基础用法

from transformers import TrOCRProcessor, VisionEncoderDecoderModel
from PIL import Image
import requests

# load image from the IAM database
https://huggingface.co/medieval-data/trocr-medieval-latin-caroline/resolve/main/images/heldout1.png
image = Image.open(requests.get(url, stream=True).raw).convert("RGB")

processor = TrOCRProcessor.from_pretrained('medieval-data/trocr-medieval-latin-caroline')
model = VisionEncoderDecoderModel.from_pretrained('medieval-data/trocr-medieval-latin-caroline')
pixel_values = processor(images=image, return_tensors="pt").pixel_values

generated_ids = model.generate(pixel_values)
generated_text = processor.batch_decode(generated_ids, skip_special_tokens=True)[0]

高级用法

文档未提及高级用法相关代码，暂不展示。

📚 详细文档

文档未提及详细文档内容，暂不展示。

🔧 技术细节

文档未提及技术实现细节，暂不展示。

📄 许可证

本项目采用MIT许可证。

📖 引用信息

TrOCR论文

@misc{li2021trocr,
      title={TrOCR: Transformer-based Optical Character Recognition with Pre-trained Models}, 
      author={Minghao Li and Tengchao Lv and Lei Cui and Yijuan Lu and Dinei Florencio and Cha Zhang and Zhoujun Li and Furu Wei},
      year={2021},
      eprint={2109.10282},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}

CATMuS论文

@unpublished{clerice:hal-04453952,
  TITLE = {{CATMuS Medieval: A multilingual large-scale cross-century dataset in Latin script for handwritten text recognition and beyond}},
  AUTHOR = {Cl{\'e}rice, Thibault and Pinche, Ariane and Vlachou-Efstathiou, Malamatenia and Chagu{\'e}, Alix and Camps, Jean-Baptiste and Gille-Levenson, Matthias and Brisville-Fertin, Olivier and Fischer, Franz and Gervers, Michaels and Boutreux, Agn{\`e}s and Manton, Avery and Gabay, Simon and O'Connor, Patricia and Haverals, Wouter and Kestemont, Mike and Vandyck, Caroline and Kiessling, Benjamin},
  URL = {https://inria.hal.science/hal-04453952},
  NOTE = {working paper or preprint},
  YEAR = {2024},
  MONTH = Feb,
  KEYWORDS = {Historical sources ; medieval manuscripts ; Latin scripts ; benchmarking dataset ; multilingual ; handwritten text recognition},
  PDF = {https://inria.hal.science/hal-04453952/file/ICDAR24___CATMUS_Medieval-1.pdf},
  HAL_ID = {hal-04453952},
  HAL_VERSION = {v1},
}

⚠️ 重要提示

该模型尚未经过正式测试，初步检查表明还需要进一步微调。

💡 使用建议

若要对模型进行微调，可使用本仓库中的finetune.py文件。