Roberta2roberta L 24 Discofuse

🚀 Roberta2Roberta_L-24_discofuse エンコーダーデコーダーモデル

このモデルは、Sascha Rothe、Shashi Narayan、Aliaksei Severynによるこの論文で紹介され、最初はこのリポジトリで公開されました。

このモデルはエンコーダーデコーダーモデルで、エンコーダーとデコーダーの両方にroberta-largeのチェックポイントを使用して初期化され、上記のdiscofuseデータセットの文の融合に関して微調整されています。

免責事項: このモデルカードはHugging Faceチームによって作成されました。

🚀 クイックスタート

このモデルは文の融合に使用できます。例えば：

⚠️ 重要提示

このモデルは"（二重引用符）の文字で学習されていません。そのため、テキストをトークナイズする前に、すべての"（二重引用符）を単一の`（単一のバッククォート）に置き換えることをお勧めします。

💻 使用例

基本的な使用法

from transformers import AutoTokenizer, AutoModelForSeq2SeqLM

tokenizer = AutoTokenizer.from_pretrained("google/roberta2roberta_L-24_discofuse")
model = AutoModelForSeq2SeqLM.from_pretrained("google/roberta2roberta_L-24_discofuse")

discofuse = """As a run-blocker, Zeitler moves relatively well. Zeitler often struggles at the point of contact in space."""

input_ids = tokenizer(discofuse, return_tensors="pt").input_ids
output_ids = model.generate(input_ids)[0]
print(tokenizer.decode(output_ids, skip_special_tokens=True))
# 出力結果は以下のようになるはずです
# As a run-blocker, Zeitler moves relatively well. However, Zeitler often struggles at the point of contact in space.  

📄 ライセンス

このモデルはApache-2.0ライセンスの下で提供されています。