Bert2bert L 24 Wmt En De

🚀 bert2bert_L - 24_wmt_en_de エンコーダ - デコーダモデル

このモデルは英語とドイツ語の翻訳に使用されるエンコーダ - デコーダモデルで、英語とドイツ語の間の翻訳問題を解決し、言語交流に役立つツールとなっています。bert-large チェックポイントを初期化し、WMT データセットで微調整されており、高い翻訳精度と実用性を備えています。

🚀 クイックスタート

このモデルは英語からドイツ語への翻訳に使用できます。以下の手順で使用できます。

from transformers import AutoTokenizer, AutoModelForSeq2SeqLM

tokenizer = AutoTokenizer.from_pretrained("google/bert2bert_L-24_wmt_en_de", pad_token="<pad>", eos_token="</s>", bos_token="<s>")
model = AutoModelForSeq2SeqLM.from_pretrained("google/bert2bert_L-24_wmt_en_de")

sentence = "Would you like to grab a coffee with me this week?"

input_ids = tokenizer(sentence, return_tensors="pt", add_special_tokens=False).input_ids
output_ids = model.generate(input_ids)[0]
print(tokenizer.decode(output_ids, skip_special_tokens=True))
# 出力結果
# Möchten Sie diese Woche einen Kaffee mit mir schnappen?

💻 使用例

基本的な使用法

from transformers import AutoTokenizer, AutoModelForSeq2SeqLM

tokenizer = AutoTokenizer.from_pretrained("google/bert2bert_L-24_wmt_en_de", pad_token="<pad>", eos_token="</s>", bos_token="<s>")
model = AutoModelForSeq2SeqLM.from_pretrained("google/bert2bert_L-24_wmt_en_de")

sentence = "Would you like to grab a coffee with me this week?"

input_ids = tokenizer(sentence, return_tensors="pt", add_special_tokens=False).input_ids
output_ids = model.generate(input_ids)[0]
print(tokenizer.decode(output_ids, skip_special_tokens=True))
# 出力結果
# Möchten Sie diese Woche einen Kaffee mit mir schnappen?

📚 ドキュメント

このモデルは Sascha Rothe、Shashi Narayan、Aliaksei Severyn によって この論文 で提案され、初めて このリポジトリ で公開されました。エンコーダとデコーダが bert-large チェックポイントで初期化され、上記のリンクの WMT データセットで英語とドイツ語の翻訳に合わせて微調整されています。

📄 ライセンス

このプロジェクトは Apache - 2.0 ライセンスの下で提供されています。