Bart Base Squad Qg No Answer

🚀 research-backup/bart-base-squad-qg-no-answerのモデルカード

このモデルは、質問生成タスク向けにfacebook/bart-baseをlmqg/qg_squad（データセット名: default）で微調整したバージョンです。微調整にはlmqgを使用しています。このモデルは回答情報なしで微調整されており、つまり段落のみを与えて質問を生成します（通常のモデルは段落とその中の関連する回答を与えて質問を生成するように微調整されています）。

📋 概要

• 言語モデル: facebook/bart-base
• 言語: en
• 学習データ: lmqg/qg_squad (default)
• オンラインデモ: https://autoqg.net/
• リポジトリ: https://github.com/asahi417/lm-question-generation
• 論文: https://arxiv.org/abs/2210.03992

📦 インストール

このセクションでは、モデルを使用するためのインストール方法を説明します。

💻 使用例

基本的な使用法

lmqgを使用する場合

from lmqg import TransformersQG

# モデルの初期化
model = TransformersQG(language="en", model="research-backup/bart-base-squad-qg-no-answer")

# モデルの予測
questions = model.generate_q(list_context="William Turner was an English painter who specialised in watercolour landscapes", list_answer="William Turner")

transformersを使用する場合

from transformers import pipeline

pipe = pipeline("text2text-generation", "research-backup/bart-base-squad-qg-no-answer")
output = pipe("<hl>  Beyonce further expanded her acting career, starring as blues singer Etta James in the 2008 musical biopic, Cadillac Records. <hl>")

📊 評価

• 評価指標 (質問生成): 生の評価指標ファイル

🔧 技術詳細

微調整時に使用されたハイパーパラメータは以下の通りです。

• dataset_path: lmqg/qg_squad
• dataset_name: default
• input_types: ['paragraph_sentence']
• output_types: ['question']
• prefix_types: None
• model: facebook/bart-base
• max_length: 512
• max_length_output: 32
• epoch: 4
• batch: 32
• lr: 0.0001
• fp16: False
• random_seed: 1
• gradient_accumulation_steps: 8
• label_smoothing: 0.15

完全な設定は微調整設定ファイルで確認できます。

📄 ライセンス

このモデルはCC-BY-4.0ライセンスの下で提供されています。

📖 引用

@inproceedings{ushio-etal-2022-generative,
    title = "{G}enerative {L}anguage {M}odels for {P}aragraph-{L}evel {Q}uestion {G}eneration",
    author = "Ushio, Asahi  and
        Alva-Manchego, Fernando  and
        Camacho-Collados, Jose",
    booktitle = "Proceedings of the 2022 Conference on Empirical Methods in Natural Language Processing",
    month = dec,
    year = "2022",
    address = "Abu Dhabi, U.A.E.",
    publisher = "Association for Computational Linguistics",
}