bart - large - squad - qg - defaultオープンソースの英文質問生成モデル - テキストと答えに基づいて簡単に問題を作成

ホーム

Bart Large Squad Qg Default

research-backupによって開発

このモデルはBART-largeをファインチューニングした英語問題生成モデルで、与えられたテキストと回答から関連する問題を生成するために特別に設計されています。

質問応答システム

Transformers

英語#英語問題生成 #BARTファインチューニングベース #SQUADデータセット

ダウンロード数 13

リリース時間 : 3/2/2022

モデル概要

BART-largeアーキテクチャをベースにファインチューニングされたテキスト生成モデルで、主にSQuAD形式のデータから自然言語の問題を生成するために使用されます。

モデル特徴

BART-largeアーキテクチャベース

強力なBART-large事前学習モデルをファインチューニングしており、優れたテキスト理解と生成能力を備えています

専門的な問題生成能力

問題生成タスクに最適化されており、与えられたテキストと回答から関連性が高く流暢な問題を生成できます

多指標評価

BLEU、ROUGE、METEOR、BERTScore、MoverScoreなど複数の指標で良好なパフォーマンスを発揮します

モデル能力

テキスト生成

問題生成

自然言語処理

使用事例

教育

自動読解問題生成

教科書や記事から自動的に読解問題を生成

生成された問題は、学生のテキスト理解度をテストするために使用できます

コンテンツ作成

QAシステムのデータ拡張

質問応答システムのトレーニングデータを生成

QAシステムのカバレッジと多様性を向上させます

🚀 `research-backup/bart-large-squad-qg-default` モデルカード

このモデルは、facebook/bart-large を微調整したもので、lmqg/qg_squad（データセット名：デフォルト）上で質問生成タスクを行うために使用されます。微調整には、lmqg ツールを利用しています。このモデルの微調整時にはパラメーター探索を行っておらず（デフォルト設定は ERNIE-GEN から取得）、そのまま使用しています。

🚀 クイックスタート

モデル概要

属性	詳細
モデルタイプ	`research-backup/bart-large-squad-qg-default` は、`facebook/bart-large` をベースに微調整された質問生成モデルです。
訓練データ	lmqg/qg_squad（デフォルト）
オンラインデモ	https://autoqg.net/
コードリポジトリ	https://github.com/asahi417/lm-question-generation
関連論文	https://arxiv.org/abs/2210.03992

使用例

基本的な使用法

lmqg ライブラリを使用してモデルを呼び出す方法：

from lmqg import TransformersQG

# モデルの初期化
model = TransformersQG(language="en", model="research-backup/bart-large-squad-qg-default")

# モデルの予測
questions = model.generate_q(list_context="William Turner was an English painter who specialised in watercolour landscapes", list_answer="William Turner")

高度な使用法

transformers ライブラリを使用してモデルを呼び出す方法：

from transformers import pipeline

pipe = pipeline("text2text-generation", "research-backup/bart-large-squad-qg-default")
output = pipe("<hl> Beyonce <hl> further expanded her acting career, starring as blues singer Etta James in the 2008 musical biopic, Cadillac Records.")

✨ 主な機能

微調整最適化：facebook/bart-large をベースに微調整されており、質問生成タスクに特化しています。
多指標評価：BLEU4、ROUGE-L、METEOR、BERTScore、MoverScore などの複数の指標を使用してモデルの性能を評価しています。

📚 ドキュメント

評価指標

指標	スコア	タイプ	データセット
BERTScore	90.95	デフォルト	lmqg/qg_squad
Bleu_1	56.25	デフォルト	lmqg/qg_squad
Bleu_2	40.27	デフォルト	lmqg/qg_squad
Bleu_3	30.71	デフォルト	lmqg/qg_squad
Bleu_4	23.94	デフォルト	lmqg/qg_squad
METEOR	25.91	デフォルト	lmqg/qg_squad
MoverScore	64.42	デフォルト	lmqg/qg_squad
ROUGE_L	52.2	デフォルト	lmqg/qg_squad

訓練ハイパーパラメータ

以下は、微調整時に使用されたハイパーパラメータです：

データセットパス：lmqg/qg_squad
データセット名：デフォルト
入力タイプ：['paragraph_answer']
出力タイプ：['question']
プレフィックスタイプ：なし
モデル：facebook/bart-large
最大長：512
最大出力長：32
訓練エポック数：10
バッチサイズ：8
学習率：1.25e-05
混合精度訓練：いいえ
乱数シード：1
勾配累積ステップ数：4
ラベル平滑化：0.1

完全な設定は、微調整設定ファイルで確認できます。

🔧 技術詳細

このモデルは、facebook/bart-large をベースに微調整され、lmqg/qg_squad データセット上で質問生成タスクを行います。微調整時にはパラメーター探索を行わず、デフォルトの設定を使用しています。BLEU4、ROUGE-L などの複数の評価指標を使用してモデルの性能を評価しています。

📄 ライセンス

このモデルは、CC BY 4.0 ライセンスを使用しています。

📚 引用

@inproceedings{ushio-etal-2022-generative,
    title = "{G}enerative {L}anguage {M}odels for {P}aragraph-{L}evel {Q}uestion {G}eneration",
    author = "Ushio, Asahi  and
        Alva-Manchego, Fernando  and
        Camacho-Collados, Jose",
    booktitle = "Proceedings of the 2022 Conference on Empirical Methods in Natural Language Processing",
    month = dec,
    year = "2022",
    address = "Abu Dhabi, U.A.E.",
    publisher = "Association for Computational Linguistics",
}