Donut Base Finetuned Rvlcdip

🚀 Donut (ベースサイズのモデル、RVL - CDIPでファインチューニング済み)

DonutモデルはRVL - CDIPでファインチューニングされています。このモデルは、Geewokらによる論文 OCR-free Document Understanding Transformer で紹介され、最初は このリポジトリ で公開されました。

免責事項: Donutを公開したチームはこのモデルのモデルカードを作成していないため、このモデルカードはHugging Faceチームによって作成されました。

🚀 クイックスタート

Donutモデルは、RVL - CDIPという文書画像分類データセットでファインチューニングされており、画像からテキストを生成する能力を持っています。

✨ 主な機能

• 画像を入力として受け取り、テキストを自動的に生成することができます。
• OCRを必要とせずに文書を理解する能力を備えています。

📚 ドキュメント

モデルの説明

Donutは、ビジョンエンコーダ（Swin Transformer）とテキストデコーダ（BART）で構成されています。画像が与えられると、エンコーダはまず画像を埋め込みのテンソル（形状はbatch_size, seq_len, hidden_size）にエンコードし、その後デコーダがエンコーダのエンコード結果を条件として、自己回帰的にテキストを生成します。

使用目的と制限事項

このモデルは、文書画像分類データセットであるRVL - CDIPでファインチューニングされています。 コード例を含む詳細なドキュメントについては、こちら を参照してください。

BibTeXエントリと引用情報

@article{DBLP:journals/corr/abs-2111-15664,
  author    = {Geewook Kim and
               Teakgyu Hong and
               Moonbin Yim and
               Jinyoung Park and
               Jinyeong Yim and
               Wonseok Hwang and
               Sangdoo Yun and
               Dongyoon Han and
               Seunghyun Park},
  title     = {Donut: Document Understanding Transformer without {OCR}},
  journal   = {CoRR},
  volume    = {abs/2111.15664},
  year      = {2021},
  url       = {https://arxiv.org/abs/2111.15664},
  eprinttype = {arXiv},
  eprint    = {2111.15664},
  timestamp = {Thu, 02 Dec 2021 10:50:44 +0100},
  biburl    = {https://dblp.org/rec/journals/corr/abs-2111-15664.bib},
  bibsource = {dblp computer science bibliography, https://dblp.org}
}

📄 ライセンス

このモデルはMITライセンスの下で公開されています。