Roberta2roberta L 24 Discofuse

🚀 Roberta2Roberta_L-24_discofuse 编码器-解码器模型

本模型用于解决句子融合问题，通过在特定数据集上微调预训练模型，有效提升了句子融合的效果，为自然语言处理相关任务提供了有力支持。

🚀 快速开始

该模型由 Sascha Rothe、Shashi Narayan、Aliaksei Severyn 在 这篇论文 中提出，并首次在 该仓库 中发布。

此模型是一个编码器 - 解码器模型，编码器和解码器均在 roberta-large 检查点上进行初始化，并在上述链接的 discofuse 数据集上进行句子融合的微调。

声明：本模型卡片由 Hugging Face 团队编写。

💻 使用示例

基础用法

你可以使用此模型进行句子融合，例如：

⚠️ 重要提示

该模型未在 "（双引号）字符上进行训练，因此在对文本进行分词之前，建议将所有 "（双引号）替换为单个 `（单反引号）。

from transformers import AutoTokenizer, AutoModelForSeq2SeqLM

tokenizer = AutoTokenizer.from_pretrained("google/roberta2roberta_L-24_discofuse")
model = AutoModelForSeq2SeqLM.from_pretrained("google/roberta2roberta_L-24_discofuse")

discofuse = """As a run-blocker, Zeitler moves relatively well. Zeitler often struggles at the point of contact in space."""

input_ids = tokenizer(discofuse, return_tensors="pt").input_ids
output_ids = model.generate(input_ids)[0]
print(tokenizer.decode(output_ids, skip_special_tokens=True))
# 应该输出
# As a run-blocker, Zeitler moves relatively well. However, Zeitler often struggles at the point of contact in space.  

📄 许可证

本项目采用 Apache-2.0 许可证。