Bert2bert L 24 Wmt De En

🚀 bert2bert_L-24_wmt_de_en 編碼器-解碼器模型

本模型是一個用於德英翻譯的編碼器-解碼器模型，它在bert-large檢查點上進行初始化，並在WMT數據集上進行微調，為德英翻譯任務提供了有效的解決方案。

🚀 快速開始

本模型由Sascha Rothe、Shashi Narayan、Aliaksei Severyn在 此論文 中提出，並首次在 此倉庫 中發佈。該模型是一個編碼器 - 解碼器模型，編碼器和解碼器均在bert-large檢查點上進行初始化，並在上述鏈接的WMT數據集上針對德語到英語的翻譯任務進行了微調。

聲明：本模型卡片由Hugging Face團隊編寫。

💻 使用示例

基礎用法

from transformers import AutoTokenizer, AutoModelForSeq2SeqLM

tokenizer = AutoTokenizer.from_pretrained("google/bert2bert_L-24_wmt_de_en", pad_token="<pad>", eos_token="</s>", bos_token="<s>")
model = AutoModelForSeq2SeqLM.from_pretrained("google/bert2bert_L-24_wmt_de_en")

sentence = "Willst du einen Kaffee trinken gehen mit mir?"

input_ids = tokenizer(sentence, return_tensors="pt", add_special_tokens=False).input_ids
output_ids = model.generate(input_ids)[0]
print(tokenizer.decode(output_ids, skip_special_tokens=True))
# should output
# Want to drink a kaffee go with me? .

📄 許可證

本模型採用Apache-2.0許可證。

📦 相關信息