Bert2bert L 24 Wmt De En

🚀 bert2bert_L-24_wmt_de_en 编码器-解码器模型

本模型是一个用于德英翻译的编码器-解码器模型，它在bert-large检查点上进行初始化，并在WMT数据集上进行微调，为德英翻译任务提供了有效的解决方案。

🚀 快速开始

本模型由Sascha Rothe、Shashi Narayan、Aliaksei Severyn在 此论文 中提出，并首次在 此仓库 中发布。该模型是一个编码器 - 解码器模型，编码器和解码器均在bert-large检查点上进行初始化，并在上述链接的WMT数据集上针对德语到英语的翻译任务进行了微调。

声明：本模型卡片由Hugging Face团队编写。

💻 使用示例

基础用法

from transformers import AutoTokenizer, AutoModelForSeq2SeqLM

tokenizer = AutoTokenizer.from_pretrained("google/bert2bert_L-24_wmt_de_en", pad_token="<pad>", eos_token="</s>", bos_token="<s>")
model = AutoModelForSeq2SeqLM.from_pretrained("google/bert2bert_L-24_wmt_de_en")

sentence = "Willst du einen Kaffee trinken gehen mit mir?"

input_ids = tokenizer(sentence, return_tensors="pt", add_special_tokens=False).input_ids
output_ids = model.generate(input_ids)[0]
print(tokenizer.decode(output_ids, skip_special_tokens=True))
# should output
# Want to drink a kaffee go with me? .

📄 许可证

本模型采用Apache-2.0许可证。

📦 相关信息