T5 Base Squad Qg Ae

🚀 lmqg/t5-base-squad-qg-aeモデルカード

このモデルは、t5-baseをベースに微調整されたバージョンで、lmqg/qg_squad（データセット名: default）上で質問生成と回答抽出タスクを同時に実行するために、lmqgを通じて実装されています。

🚀 クイックスタート

このモデルは、質問生成と回答抽出のタスクを同時に行うことができます。以下に使用方法を示します。

💻 使用例

基本的な使用法

# 使用[`lmqg`](https://github.com/asahi417/lm-question-generation#lmqg-language-model-for-question-generation-)
from lmqg import TransformersQG

# モデルの初期化
model = TransformersQG(language="en", model="lmqg/t5-base-squad-qg-ae")

# モデルの予測
question_answer_pairs = model.generate_qa("威廉·特纳是一位擅长水彩风景画的英国画家")

高度な使用法

# 使用`transformers`
from transformers import pipeline

pipe = pipeline("text2text-generation", "lmqg/t5-base-squad-qg-ae")

# 回答抽出
answer = pipe("生成问题: <hl> 碧昂丝 <hl> 进一步扩展了她的演艺事业，在2008年的音乐传记片《Cadillac Records》中饰演蓝调歌手埃塔·詹姆斯。")

# 質問生成
question = pipe("抽取答案: <hl> 碧昂丝进一步扩展了她的演艺事业，在2008年的音乐传记片《Cadillac Records》中饰演蓝调歌手埃塔·詹姆斯。<hl> 她在片中的表现获得了评论家的赞誉，并因此获得了多个提名，包括卫星奖最佳女配角提名和NAACP形象奖杰出女配角提名。")

✨ 主な機能

• 質問生成と回答抽出のタスクを同時に実行できます。
• 英語のテキストに対応しています。
• lmqg/qg_squadデータセットで訓練されています。

📦 インストール

このモデルを使用するには、必要なライブラリをインストールする必要があります。以下のコマンドを実行してください。

pip install lmqg transformers

📚 ドキュメント

概要

評価指標

質問生成指標

元の指標ファイル

質問と回答生成指標

元の指標ファイル

回答抽出指標

元の指標ファイル

訓練ハイパーパラメータ

微調整時に使用されたハイパーパラメータは以下の通りです。

• データセットパス: lmqg/qg_squad
• データセット名: default
• 入力タイプ: ['paragraph_answer', 'paragraph_sentence']
• 出力タイプ: ['question', 'answer']
• 接頭辞タイプ: ['qg', 'ae']
• モデル: t5-base
• 最大長: 512
• 出力最大長: 32
• 訓練エポック数: 6
• バッチサイズ: 32
• 学習率: 0.0001
• FP16を使用するか: いいえ
• ランダムシード: 1
• 勾配累積ステップ数: 4
• ラベルスムージング: 0.15

完全な設定は微調整設定ファイルを参照してください。

🔧 技術詳細

このモデルは、t5-baseをベースに、質問生成と回答抽出のタスクを同時に行うために微調整されています。具体的な技術的な詳細については、論文を参照してください。

📄 ライセンス

このモデルは、cc-by-4.0ライセンスの下で提供されています。

引用

@inproceedings{ushio-etal-2022-generative,
    title = "{G}enerative {L}anguage {M}odels for {P}aragraph-{L}evel {Q}uestion {G}eneration",
    author = "Ushio, Asahi  and
        Alva-Manchego, Fernando  and
        Camacho-Collados, Jose",
    booktitle = "Proceedings of the 2022 Conference on Empirical Methods in Natural Language Processing",
    month = dec,
    year = "2022",
    address = "Abu Dhabi, U.A.E.",
    publisher = "Association for Computational Linguistics",
}