Mt5 Small Jaquad Qg

🚀 lmqg/mt5-small-jaquad-qgのモデルカード

このモデルは、google/mt5-small を lmqg/qg_jaquad (データセット名: default) の質問生成タスクに対して、lmqg を介してファインチューニングしたバージョンです。

🚀 クイックスタート

このモデルは、段落レベルの質問生成タスクに特化しており、日本語のテキストから質問を生成することができます。以下に、このモデルの概要と使用方法を説明します。

概要

💻 使用例

基本的な使用法

lmqgを使用する場合

from lmqg import TransformersQG

# モデルの初期化
model = TransformersQG(language="ja", model="lmqg/mt5-small-jaquad-qg")

# モデルの予測
questions = model.generate_q(list_context="フェルメールの作品では、17世紀のオランダの画家、ヨハネス・フェルメールの作品について記述する。フェルメールの作品は、疑問作も含め30数点しか現存しない。現存作品はすべて油彩画で、版画、下絵、素描などは残っていない。", list_answer="30数点")

transformersを使用する場合

from transformers import pipeline

pipe = pipeline("text2text-generation", "lmqg/mt5-small-jaquad-qg")
output = pipe("ゾフィーは貴族出身ではあったが王族出身ではなく、ハプスブルク家の皇位継承者であるフランツ・フェルディナントとの結婚は貴賤結婚となった。皇帝フランツ・ヨーゼフは、2人の間に生まれた子孫が皇位を継がないことを条件として結婚を承認していた。視察が予定されている<hl>6月28日<hl>は2人の14回目の結婚記念日であった。")

📚 ドキュメント

評価

• 質問生成のメトリクス: 生のメトリクスファイル

• 質問と回答の生成 (参照回答) のメトリクス: 各質問は 正解回答 から生成されます。生のメトリクスファイル

• 質問と回答の生成 (パイプラインアプローチ) のメトリクス: 各質問は、lmqg/mt5-small-jaquad-ae によって生成された回答に基づいて生成されます。生のメトリクスファイル

訓練のハイパーパラメータ

ファインチューニング時に使用されたハイパーパラメータは以下の通りです。

• データセットパス: lmqg/qg_jaquad
• データセット名: default
• 入力タイプ: ['paragraph_answer']
• 出力タイプ: ['question']
• プレフィックスタイプ: None
• モデル: google/mt5-small
• 最大長: 512
• 最大出力長: 32
• エポック数: 21
• バッチサイズ: 64
• 学習率: 0.0005
• fp16: False
• 乱数シード: 1
• 勾配累積ステップ数: 1
• ラベルスムージング: 0.0

完全な設定は、ファインチューニング設定ファイル で確認できます。

引用

@inproceedings{ushio-etal-2022-generative,
    title = "{G}enerative {L}anguage {M}odels for {P}aragraph-{L}evel {Q}uestion {G}eneration",
    author = "Ushio, Asahi  and
        Alva-Manchego, Fernando  and
        Camacho-Collados, Jose",
    booktitle = "Proceedings of the 2022 Conference on Empirical Methods in Natural Language Processing",
    month = dec,
    year = "2022",
    address = "Abu Dhabi, U.A.E.",
    publisher = "Association for Computational Linguistics",
}

📄 ライセンス

このモデルは CC BY 4.0 ライセンスの下で提供されています。