T5 Base Finetuned For Question Generation

🚀 T5-Base をSQuADでファインチューニングした質問生成モデル

このモデルは、SQuADデータセットでT5-Baseをファインチューニングして質問生成を行うためのものです。Transformerライブラリを利用し、与えられた回答と文脈から質問を生成することができます。

🚀 クイックスタート

以下のコードを使って、このモデルを動かすことができます。

💻 使用例

基本的な使用法

import torch
from transformers import T5Tokenizer, T5ForConditionalGeneration

trained_model_path = 'ZhangCheng/T5-Base-Fine-Tuned-for-Question-Generation'
trained_tokenizer_path = 'ZhangCheng/T5-Base-Fine-Tuned-for-Question-Generation'

class QuestionGeneration:

    def __init__(self, model_dir=None):
        self.model = T5ForConditionalGeneration.from_pretrained(trained_model_path)
        self.tokenizer = T5Tokenizer.from_pretrained(trained_tokenizer_path)
        self.device = torch.device('cuda' if torch.cuda.is_available() else 'cpu')
        self.model = self.model.to(self.device)
        self.model.eval()

    def generate(self, answer: str, context: str):
        input_text = '<answer> %s <context> %s ' % (answer, context)
        encoding = self.tokenizer.encode_plus(
            input_text,
            return_tensors='pt'
        )
        input_ids = encoding['input_ids']
        attention_mask = encoding['attention_mask']
        outputs = self.model.generate(
            input_ids=input_ids,
            attention_mask=attention_mask
        )
        question = self.tokenizer.decode(
            outputs[0],
            skip_special_tokens=True,
            clean_up_tokenization_spaces=True
        )
        return {'question': question, 'answer': answer, 'context': context}

if __name__ == "__main__":
    context = 'ZhangCheng fine-tuned T5 on SQuAD dataset for question generation.'
    answer = 'ZhangCheng'
    QG = QuestionGeneration()
    qa = QG.generate(answer, context)
    print(qa['question'])
    # Output: 
    # Who fine-tuned T5 on SQuAD dataset for question generation?

📚 ドキュメント

データセット

ウィジェットの使用例

• 例1
  • 入力: <answer> T5 <context> Cheng fine-tuned T5 on SQuAD for question generation.
• 例2
  • 入力: <answer> SQuAD <context> Cheng fine-tuned T5 on SQuAD dataset for question generation.
• 例3
  • 入力: <answer> thousands <context> Transformers provides thousands of pre-trained models to perform tasks on different modalities such as text, vision, and audio.