Lilt Roberta En Base

🚀 LiLT-RoBERTa (ベースサイズのモデル)

事前学習済みのRoBERTa (英語) と事前学習済みの言語非依存レイアウトトランスフォーマー (LiLT) を組み合わせた、言語非依存レイアウトトランスフォーマー - RoBERTaモデルです。このモデルは、Wangらによる論文 LiLT: A Simple yet Effective Language-Independent Layout Transformer for Structured Document Understanding で紹介され、最初は このリポジトリ で公開されました。

免責事項: LiLTを公開したチームはこのモデルのモデルカードを作成していないため、このモデルカードはHugging Faceチームによって作成されました。

🚀 クイックスタート

LiLT-RoBERTaは、事前学習済みのRoBERTaエンコーダと軽量なレイアウトトランスフォーマーを組み合わせることで、あらゆる言語に対応したLayoutLMのようなモデルを実現します。

✨ 主な機能

モデルの説明

言語非依存レイアウトトランスフォーマー (LiLT) は、ハブから任意の事前学習済みRoBERTaエンコーダ (つまり、あらゆる言語) を軽量なレイアウトトランスフォーマーと組み合わせることができ、あらゆる言語に対応したLayoutLMのようなモデルを作成できます。

想定用途と制限

このモデルは、文書画像分類、文書解析、文書QAなどのタスクで微調整することを想定しています。興味のあるタスクで微調整されたバージョンを探すには、モデルハブ を参照してください。

使い方

コード例については、ドキュメント を参照してください。

BibTeXエントリと引用情報

@misc{https://doi.org/10.48550/arxiv.2202.13669,
  doi = {10.48550/ARXIV.2202.13669},
  
  url = {https://arxiv.org/abs/2202.13669},
  
  author = {Wang, Jiapeng and Jin, Lianwen and Ding, Kai},
  
  keywords = {Computation and Language (cs.CL), FOS: Computer and information sciences, FOS: Computer and information sciences},
  
  title = {LiLT: A Simple yet Effective Language-Independent Layout Transformer for Structured Document Understanding},
  
  publisher = {arXiv},
  
  year = {2022},
  
  copyright = {arXiv.org perpetual, non-exclusive license}
}

📄 ライセンス

このモデルはMITライセンスの下で提供されています。