Mtl Summarization

🚀 MTL-summarization

MTL-summarizationモデルは、Tianyi Tang、Junyi Li、Wayne Xin Zhao、Ji-Rong WenによるMVP: Multi-task Supervised Pre-training for Natural Language Generationで提案されました。このモデルは、自然言語生成のための多タスク教師付き事前学習を行っています。

詳細情報と使用方法については、https://github.com/RUCAIBox/MVPを参照してください。

🚀 クイックスタート

MTL-summarizationモデルの使用に関する詳細な情報や指示は、https://github.com/RUCAIBox/MVPで見つけることができます。

✨ 主な機能

モデルの概要

MTL-summarizationは、ラベル付きの要約データセットを混合して教師付き事前学習されたモデルです。これは、主要なMVPモデルのバリアント（Single）で、標準的なTransformerエンコーダ・デコーダアーキテクチャに基づいています。

MTL-summarizationは、ニュース要約（CNN/DailyMail、XSum）や対話要約（SAMSum）などの要約タスクに特化して設計されています。

💻 使用例

基本的な使用法

>>> from transformers import MvpTokenizer, MvpForConditionalGeneration

>>> tokenizer = MvpTokenizer.from_pretrained("RUCAIBox/mvp")
>>> model = MvpForConditionalGeneration.from_pretrained("RUCAIBox/mtl-summarization")

>>> inputs = tokenizer(
...     "Summarize: You may want to stick it to your boss and leave your job, but don't do it if these are your reasons.",
...     return_tensors="pt",
... )
>>> generated_ids = model.generate(**inputs)
>>> tokenizer.batch_decode(generated_ids, skip_special_tokens=True)
["Don't do it if these are your reasons"]

📚 ドキュメント

関連モデル

• MVP: https://huggingface.co/RUCAIBox/mvp
• プロンプトベースのモデル:
  • MVP-multi-task: https://huggingface.co/RUCAIBox/mvp-multi-task
  • MVP-summarization: https://huggingface.co/RUCAIBox/mvp-summarization
  • MVP-open-dialog: https://huggingface.co/RUCAIBox/mvp-open-dialog
  • MVP-data-to-text: https://huggingface.co/RUCAIBox/mvp-data-to-text
  • MVP-story: https://huggingface.co/RUCAIBox/mvp-story
  • MVP-question-answering: https://huggingface.co/RUCAIBox/mvp-question-answering
  • MVP-question-generation: https://huggingface.co/RUCAIBox/mvp-question-generation
  • MVP-task-dialog: https://huggingface.co/RUCAIBox/mvp-task-dialog
• 多タスクモデル:
  • MTL-summarization: https://huggingface.co/RUCAIBox/mtl-summarization
  • MTL-open-dialog: https://huggingface.co/RUCAIBox/mtl-open-dialog
  • MTL-data-to-text: https://huggingface.co/RUCAIBox/mtl-data-to-text
  • MTL-story: https://huggingface.co/RUCAIBox/mtl-story
  • MTL-question-answering: https://huggingface.co/RUCAIBox/mtl-question-answering
  • MTL-question-generation: https://huggingface.co/RUCAIBox/mtl-question-generation
  • MTL-task-dialog: https://huggingface.co/RUCAIBox/mtl-task-dialog

📄 ライセンス

このモデルは、Apache-2.0ライセンスの下で提供されています。

🔧 技術詳細

引用

@article{tang2022mvp,
  title={MVP: Multi-task Supervised Pre-training for Natural Language Generation},
  author={Tang, Tianyi and Li, Junyi and Zhao, Wayne Xin and Wen, Ji-Rong},
  journal={arXiv preprint arXiv:2206.12131},
  year={2022},
  url={https://arxiv.org/abs/2206.12131},
}