Wmt21 Dense 24 Wide X En

🚀 WMT 21 X-En

WMT 21 X-Enは、1対多の多言語翻訳用に学習された47億パラメータの多言語エンコーダ・デコーダ（seq-to-seq）モデルです。 このモデルは、この論文で紹介され、このリポジトリで最初に公開されました。

このモデルは、ハウサ語（ha）、アイスランド語（is）、日本語（ja）、チェコ語（cs）、ロシア語（ru）、中国語（zh）、ドイツ語（de）の7つの言語から英語へのテキスト翻訳が直接可能です。

目標言語への翻訳を行うには、目標言語IDを最初に生成されるトークンとして強制する必要があります。 目標言語IDを最初に生成されるトークンとして強制するには、generateメソッドにforced_bos_token_idパラメータを渡します。

⚠️ 重要提示

M2M100Tokenizerはsentencepieceに依存しているため、サンプルコードを実行する前にインストールしてください。 sentencepieceをインストールするには、pip install sentencepieceを実行します。

このモデルはドメインタグ付きで学習されているため、入力にもそれらを前付けする必要があります。

• "wmtdata newsdomain": ニュースドメインの文章に使用
• "wmtdata otherdomain": その他のドメインの文章に使用

🚀 クイックスタート

💻 使用例

基本的な使用法

from transformers import AutoModelForSeq2SeqLM, AutoTokenizer

model = AutoModelForSeq2SeqLM.from_pretrained("facebook/wmt21-dense-24-wide-x-en")
tokenizer = AutoTokenizer.from_pretrained("facebook/wmt21-dense-24-wide-x-en")

# translate German to English
tokenizer.src_lang = "de"
inputs = tokenizer("wmtdata newsdomain Ein Modell für viele Sprachen", return_tensors="pt")
generated_tokens = model.generate(**inputs)
tokenizer.batch_decode(generated_tokens, skip_special_tokens=True)
# => "A model for many languages"

# translate Icelandic to English
tokenizer.src_lang = "is"
inputs = tokenizer("wmtdata newsdomain Ein fyrirmynd fyrir mörg tungumál", return_tensors="pt")
generated_tokens = model.generate(**inputs)
tokenizer.batch_decode(generated_tokens, skip_special_tokens=True)
# => "One model for many languages"

もっと多くの微調整されたバージョンを探すには、モデルハブを参照してください。

📚 ドキュメント

対応言語

英語（en）、ハウサ語（ha）、アイスランド語（is）、日本語（ja）、チェコ語（cs）、ロシア語（ru）、中国語（zh）、ドイツ語（de）

BibTeXエントリと引用情報

@inproceedings{tran2021facebook
  title={Facebook AI’s WMT21 News Translation Task Submission},
  author={Chau Tran and Shruti Bhosale and James Cross and Philipp Koehn and Sergey Edunov and Angela Fan},
  booktitle={Proc. of WMT},
  year={2021},
}

📄 ライセンス

このモデルはMITライセンスの下で提供されています。