Bert2bert L 24 Wmt De En

🚀 bert2bert_L-24_wmt_de_en エンコーダ-デコーダモデル

このモデルは、ドイツ語から英語への翻訳に使用されるエンコーダ-デコーダモデルです。bert-largeのチェックポイントで初期化され、WMTデータセットで微調整されており、ドイツ語から英語への翻訳タスクに効果的な解決策を提供します。

🚀 クイックスタート

このモデルは、Sascha Rothe、Shashi Narayan、Aliaksei Severynによって この論文 で提案され、初めて このリポジトリ で公開されました。このモデルはエンコーダ-デコーダモデルで、エンコーダとデコーダの両方がbert-largeのチェックポイントで初期化され、上記のリンクのWMTデータセットを使用して、ドイツ語から英語への翻訳タスクに対して微調整されています。

声明：このモデルカードはHugging Faceチームによって作成されました。

💻 使用例

基本的な使用法

from transformers import AutoTokenizer, AutoModelForSeq2SeqLM

tokenizer = AutoTokenizer.from_pretrained("google/bert2bert_L-24_wmt_de_en", pad_token="<pad>", eos_token="</s>", bos_token="<s>")
model = AutoModelForSeq2SeqLM.from_pretrained("google/bert2bert_L-24_wmt_de_en")

sentence = "Willst du einen Kaffee trinken gehen mit mir?"

input_ids = tokenizer(sentence, return_tensors="pt", add_special_tokens=False).input_ids
output_ids = model.generate(input_ids)[0]
print(tokenizer.decode(output_ids, skip_special_tokens=True))
# should output
# Want to drink a kaffee go with me? .

📄 ライセンス

このモデルはApache-2.0ライセンスの下で提供されています。

📦 関連情報