Donut Rus

🚀 Donutモデル（ロシア語テキスト認識用）

Donut（エンドツーエンドトランスフォーマー）モデルは、ロシア語のテキスト認識に特化しています。このモデルは、ロシア文学作品から抽出したテキストを含む10万枚の画像からなるSynthDoGデータセットを使用して訓練されています。

🚀 クイックスタート

Donutモデルは、ロシア語のテキスト認識に最適化されたエンドツーエンドトランスフォーマーモデルです。以下のリソースを参照して、モデルを使用することができます。

• モデルの公式リポジトリ: https://github.com/clovaai/donut
• 訓練データセット: https://huggingface.co/datasets/Akajackson/donut_synthdog_rus
• 訓練ノートブック: https://github.com/NielsRogge/Transformers-Tutorials/blob/master/Donut/CORD/Fine_tune_Donut_on_a_custom_dataset_(CORD)_with_PyTorch_Lightning.ipynb

✨ 主な機能

このモデルは、以下のタスクを解くための基礎として使用できます。

• 様々なタイプのドキュメントの認識
• ドキュメントに関する質問への回答
• ドキュメントの分類

上記のノートブックを使用して、独自のタスクを解くことができます。ただし、データセットはDonutリポジトリに記載されている形式でアノテーションする必要があります。

🔧 技術詳細

訓練データ

訓練には、ロシア文学作品から抽出したテキストを含む10万枚の画像からなるSynthDoGデータセットを使用しました。

訓練環境

モデルは、Kaggle上でNielsRogge氏のノートブックを使用して訓練されました。オリジナルのトークナイザーは、DeepPavlov/xlm - roberta - large - en - ruに置き換えられています。

評価指標

検証データセットでのNormed EDメトリクスは0.02239です。