Mbart Large 50 En Cbk Finetuned

🚀 mbart-large-50-many-to-many-mmt モデル

このモデルは、独自のコーパスに含まれる英語からザンボアンガ・チャバカーノ語への文章でファインチューニングされた mbart-large-50-many-to-many-mmt モデルです。チャバカーノ語はスペイン語系のクレオール語で、ザンボアンガ・チャバカーノ語はフィリピンで最も広く話されているチャバカーノ語の方言です。この翻訳モデルは、転移学習を通じてチャバカーノ語とスペイン語、タガログ語、その他のロマンス語族との関連性を活用し、英語からザンボアンガ・チャバカーノ語への翻訳モデルを作成することを目指しています。

✨ 主な機能

• 英語からザンボアンガ・チャバカーノ語への翻訳を行えます。
• 転移学習を利用して、チャバカーノ語と他の言語との関連性を活用しています。

📚 ドキュメント

モデル情報

データセット情報

• トレーニングセットには5203文、検証セットには650文、テストセットには651文が含まれています。各文は2 - 20語で構成されています。

評価指標

• このモデルの検証セットでのBLEUスコアは36.37、テストセットでは37.74です。

追加情報

• ソース言語: 英語
• ターゲット言語: ザンボアンガ・チャバカーノ語
• BLEUスコア: 37.74
• 簡略化ペナルティ: 0.976
• 参照文長: 5323
• 仮説文長: 5198

トレーニングパラメータ

batch_size = 16
num_train_epochs = 4
learning_rate=2e-4
gradient_accumulation_steps=4
weight_decay=0.01
warmup_steps=500
adam_epsilon=1e-8
max_grad_norm=1.0
fp16=True

📄 ライセンス

このモデルは apache-2.0 ライセンスの下で提供されています。