Muppet Roberta Base

🚀 マペット: 事前微調整による大規模マルチタスク表現

RoBERTaベースモデル

これはRobertaベースの大規模マルチタスク事前微調整版です。このモデルは、この論文で紹介されました。このモデルは、幅広いGLUE、QAタスクにおいてroberta-baseを上回る性能を発揮します（詳細は論文を参照）。特に小規模なデータセットでの性能向上が顕著です。

注意: このチェックポイントには、互換性の問題から事前微調整時に使用された分類/MRCヘッドが含まれていないため、一部のデータセットで論文に報告されているよりもわずかに低い性能になる可能性があります。

🚀 クイックスタート

このモデルは、様々な自然言語処理タスクに利用できます。詳細な使い方や微調整方法については、以下のセクションを参照してください。

✨ 主な機能

• 大規模マルチタスク事前微調整により、幅広いタスクで高性能を発揮します。
• Robertaベースモデルをベースにしており、双方向の文表現を学習できます。

📚 ドキュメント

モデルの説明

RoBERTaは、自己教師付き学習により大量の英語データセットで事前学習されたトランスフォーマーモデルです。つまり、人間によるラベル付けなしに生テキストのみを使用し、自動的なプロセスで入力とラベルを生成して学習します。

具体的には、マスク言語モデリング（MLM）の目的で事前学習されています。入力文の中からランダムに15%の単語をマスクし、マスクされた文全体をモデルに通して、マスクされた単語を予測します。これは、通常単語を順番に見る従来の再帰型ニューラルネットワーク（RNN）や、内部的に未来のトークンをマスクするGPTのような自己回帰モデルとは異なり、文の双方向的な表現を学習することができます。

このようにして、モデルは英語の内部表現を学習し、下流タスクに有用な特徴量を抽出するために使用できます。例えば、ラベル付きの文のデータセットがある場合、BERTモデルが生成する特徴量を入力として標準的な分類器を学習させることができます。

想定される用途と制限

このモデルは、マスク言語モデリングに生モデルを使用することもできますが、主に下流タスクで微調整することを想定しています。興味のあるタスクで微調整されたバージョンを探すには、モデルハブを参照してください。

このモデルは、文全体（潜在的にマスクされた）を使用して判断を下すタスク、例えばシーケンス分類、トークン分類、質問応答などでの微調整を主な目的としています。テキスト生成などのタスクには、GPT2のようなモデルを検討する必要があります。

評価結果

下流タスクで微調整した場合、このモデルは以下の結果を達成します。

Glueテスト結果:

BibTeXエントリと引用情報

@article{DBLP:journals/corr/abs-2101-11038,
  author    = {Armen Aghajanyan and
               Anchit Gupta and
               Akshat Shrivastava and
               Xilun Chen and
               Luke Zettlemoyer and
               Sonal Gupta},
  title     = {Muppet: Massive Multi-task Representations with Pre-Finetuning},
  journal   = {CoRR},
  volume    = {abs/2101.11038},
  year      = {2021},
  url       = {https://arxiv.org/abs/2101.11038},
  archivePrefix = {arXiv},
  eprint    = {2101.11038},
  timestamp = {Sun, 31 Jan 2021 17:23:50 +0100},
  biburl    = {https://dblp.org/rec/journals/corr/abs-2101-11038.bib},
  bibsource = {dblp computer science bibliography, https://dblp.org}
}

📄 ライセンス

このモデルはMITライセンスの下で提供されています。

⚠️ 重要提示

このチェックポイントには、互換性の問題から事前微調整時に使用された分類/MRCヘッドが含まれていないため、一部のデータセットで論文に報告されているよりもわずかに低い性能になる可能性があります。

💡 使用建议

このモデルは主に文全体を使用して判断を下すタスクでの微調整を目的としています。テキスト生成などのタスクには、GPT2のようなモデルを検討してください。また、微調整されたバージョンを探す場合は、モデルハブを参照してください。