Mtl Data To Text

🚀 MTL-data-to-text

MTL-data-to-text 模型是一个用于文本生成的模型，它基于多任务监督预训练，能处理多种数据到文本的生成任务，如知识图谱到文本、表格到文本等。

🚀 快速开始

MTL-data-to-text 模型由 Tianyi Tang、Junyi Li、Wayne Xin Zhao 和 Ji-Rong Wen 在论文 MVP: Multi-task Supervised Pre-training for Natural Language Generation 中提出。

详细信息和说明可查看 https://github.com/RUCAIBox/MVP。

✨ 主要特性

MTL-data-to-text 模型使用标记的数据到文本数据集的混合进行监督预训练。它是我们主要的 MVP 模型的一个变体（单任务），采用标准的 Transformer 编码器 - 解码器架构。

该模型专为数据到文本的生成任务而设计，例如知识图谱到文本的生成（WebNLG、DART）、表格到文本的生成（WikiBio、ToTTo）以及意义表示到文本的生成（E2E）。

💻 使用示例

基础用法

>>> from transformers import MvpTokenizer, MvpForConditionalGeneration

>>> tokenizer = MvpTokenizer.from_pretrained("RUCAIBox/mvp")
>>> model = MvpForConditionalGeneration.from_pretrained("RUCAIBox/mtl-data-to-text")

>>> inputs = tokenizer(
...     "Describe the following data: Iron Man | instance of | Superhero [SEP] Stan Lee | creator | Iron Man",
...     return_tensors="pt",
... )
>>> generated_ids = model.generate(**inputs)
>>> tokenizer.batch_decode(generated_ids, skip_special_tokens=True)
['Iron Man is a fictional superhero appearing in American comic books published by Marvel Comics.']

📚 详细文档

相关模型

• MVP：https://huggingface.co/RUCAIBox/mvp。
• 基于提示的模型：
  • MVP-multi-task：https://huggingface.co/RUCAIBox/mvp-multi-task。
  • MVP-summarization：https://huggingface.co/RUCAIBox/mvp-summarization。
  • MVP-open-dialog：https://huggingface.co/RUCAIBox/mvp-open-dialog。
  • MVP-data-to-text：https://huggingface.co/RUCAIBox/mvp-data-to-text。
  • MVP-story：https://huggingface.co/RUCAIBox/mvp-story。
  • MVP-question-answering：https://huggingface.co/RUCAIBox/mvp-question-answering。
  • MVP-question-generation：https://huggingface.co/RUCAIBox/mvp-question-generation。
  • MVP-task-dialog：https://huggingface.co/RUCAIBox/mvp-task-dialog。
• 多任务模型：
  • MTL-summarization：https://huggingface.co/RUCAIBox/mtl-summarization。
  • MTL-open-dialog：https://huggingface.co/RUCAIBox/mtl-open-dialog。
  • MTL-data-to-text：https://huggingface.co/RUCAIBox/mtl-data-to-text。
  • MTL-story：https://huggingface.co/RUCAIBox/mtl-story。
  • MTL-question-answering：https://huggingface.co/RUCAIBox/mtl-question-answering。
  • MTL-question-generation：https://huggingface.co/RUCAIBox/mtl-question-generation。
  • MTL-task-dialog：https://huggingface.co/RUCAIBox/mtl-task-dialog。

📄 许可证

本项目采用 Apache-2.0 许可证。

📚 引用

@article{tang2022mvp,
  title={MVP: Multi-task Supervised Pre-training for Natural Language Generation},
  author={Tang, Tianyi and Li, Junyi and Zhao, Wayne Xin and Wen, Ji-Rong},
  journal={arXiv preprint arXiv:2206.12131},
  year={2022},
  url={https://arxiv.org/abs/2206.12131},
}