MVPオープンソース自然言語生成モデル - 多タスク用に特化設計、無料でコンテンツ生成をサポート

ホーム

Mvp

RUCAIBoxによって開発

MVPはTransformerアーキテクチャに基づくマルチタスク教師あり事前学習モデルで、自然言語生成タスク専用に設計されています。

大規模言語モデル

Transformers

複数言語対応オープンソースライセンス:Apache-2.0 #マルチタスクテキスト生成 #教師あり事前学習 #Transformerアーキテクチャ

ダウンロード数 6,146

リリース時間 : 5/29/2022

モデル概要

MVPモデルは混合アノテーションデータセットによる教師あり事前学習を行い、要約生成、対話システム、ストーリー生成など様々な自然言語生成タスクをサポートします。

モデル特徴

マルチタスクサポート

要約生成、対話システム、ストーリー生成など、様々な自然言語生成タスクをサポートします。

教師あり事前学習

混合アノテーションデータセットによる教師あり事前学習でモデル性能を向上させます。

柔軟なアーキテクチャ

標準的なTransformerエンコーダー-デコーダーアーキテクチャを採用し、様々なタスクに容易に適応できます。

モデル能力

テキスト生成

テキストからテキストへの生成

要約生成

対話生成

データからテキストへの生成

ストーリー生成

質問応答システム

質問生成

使用事例

要約生成

要約生成例

テキストの短い要約を生成します。

なぜあなたが辞職すべきでない理由

データからテキストへの生成

データからテキストへの生成例

構造化データを自然言語記述に変換します。

スタン・リーはアイアンマンというキャラクターを創造しました。彼はアメリカンコミックに登場する架空のスーパーヒーローです

対話システム

対話生成例

オープンドメインの対話応答を生成します。

🚀 MVP

MVPモデルは、Tianyi Tang、Junyi Li、Wayne Xin Zhao、Ji - Rong WenによるMVP: Multi-task Supervised Pre-training for Natural Language Generationで提案されました。

詳細な情報と指示はhttps://github.com/RUCAIBox/MVPで見ることができます。

🚀 クイックスタート

MVPモデルに関する詳細な情報や使い方は、https://github.com/RUCAIBox/MVPを参照してください。

✨ 主な機能

MVPは、ラベル付きデータセットの混合を使用して教師付き事前学習されたモデルです。標準的なTransformerエンコーダ - デコーダアーキテクチャに基づいています。

MVPは自然言語生成に特化して設計されており、要約、データからテキストへの生成、オープンエンド型対話システム、ストーリー生成、質問応答、質問生成、タスク指向型対話システム、常識生成、言い換え生成、テキストスタイル変換、テキスト単純化など、幅広い生成タスクに適応できます。また、シーケンス分類や（抽出型）質問応答などの自然言語理解タスクにも適応可能です。

💻 使用例

基本的な使用法

要約タスクの例

>>> from transformers import MvpTokenizer, MvpForConditionalGeneration

>>> tokenizer = MvpTokenizer.from_pretrained("RUCAIBox/mvp")
>>> model = MvpForConditionalGeneration.from_pretrained("RUCAIBox/mvp")

>>> inputs = tokenizer(
...     "Summarize: You may want to stick it to your boss and leave your job, but don't do it if these are your reasons.",
...     return_tensors="pt",
... )
>>> generated_ids = model.generate(**inputs)
>>> tokenizer.batch_decode(generated_ids, skip_special_tokens=True)
["Why You Shouldn't Quit Your Job"]

データからテキストへの生成タスクの例

>>> from transformers import MvpTokenizerFast, MvpForConditionalGeneration

>>> tokenizer = MvpTokenizerFast.from_pretrained("RUCAIBox/mvp")
>>> model = MvpForConditionalGeneration.from_pretrained("RUCAIBox/mvp")

>>> inputs = tokenizer(
...     "Describe the following data: Iron Man | instance of | Superhero [SEP] Stan Lee | creator | Iron Man",
...     return_tensors="pt",
... )
>>> generated_ids = model.generate(**inputs)
>>> tokenizer.batch_decode(generated_ids, skip_special_tokens=True)
['Stan Lee created the character of Iron Man, a fictional superhero appearing in American comic']

📚 ドキュメント

📄 ライセンス

このモデルはApache 2.0ライセンスの下で提供されています。

引用

@article{tang2022mvp,
  title={MVP: Multi-task Supervised Pre-training for Natural Language Generation},
  author={Tang, Tianyi and Li, Junyi and Zhao, Wayne Xin and Wen, Ji-Rong},
  journal={arXiv preprint arXiv:2206.12131},
  year={2022},
  url={https://arxiv.org/abs/2206.12131},
}