Mt5 Small Jaquad Qg Ae

🚀 lmqg/mt5-small-jaquad-qg-aeモデルカード

このモデルは、google/mt5-smallをベースに、lmqg/qg_jaquad（データセット名：デフォルト）上でlmqgを用いて共同微調整された質問生成と回答抽出モデルです。

🚀 クイックスタート

概要

使用方法

基本的な使用法

from lmqg import TransformersQG

# モデルの初期化
model = TransformersQG(language="ja", model="lmqg/mt5-small-jaquad-qg-ae")

# モデルの予測
question_answer_pairs = model.generate_qa("維ミル作品の項目は、17世紀のオランダの画家ヨハネス・ヴェルミールの作品を記述しています。ヴェルミールの現存する作品は、論争のある作品を含めてわずか30数点で、すべて油絵で、版画、下絵、素描は残っていません。")

高度な使用法

from transformers import pipeline

pipe = pipeline("text2text-generation", "lmqg/mt5-small-jaquad-qg-ae")

# 回答抽出
answer = pipe("生成問題：ソフィーは貴族出身ですが王族ではなく、ハプスブルク家の皇位継承者フランツ・フェルディナントとの結婚は貴賤通婚に当たります。皇帝フランツ・ヨーゼフは、両者の子孫が皇位を継承できないことを条件にこの結婚を承認しました。予定されていた視察の<hl>6月28日<hl>は、両者の結婚14周年記念日でした。")

# 質問生成
question = pipe("抽出答案：『ワニのプーさん』の物語は、最初は1925年12月24日に短篇作品として『エヴニングニュース』紙のクリスマス特集号に掲載されました。これは『ワニのプーさん』の第一章の内容で、このときの挿絵はJ.H.道德によって描かれました。その後、10編の物語と挿絵が完成し、正式な出版前に、『エオルの誕生日』の章は1926年8月に『ロイヤルマガジン』に掲載され、同年10月9日には『ニューヨークエヴニングポスト』に掲載され、10月14日にはロンドン（メイヒューン出版社）、21日にはニューヨーク（ダトン出版社）で『ワニのプーさん』が出版されました。前作の『私たちが小さかった頃』が大成功を収めたため、英国での初版発行部数は前作の7倍の<hl>3.5万部<hl>に達しました。アメリカ市場でも同年末までに15万部が販売されましたが、依然として人気の高い前作を売上で上回るには数年かかりました。")

✨ 主な機能

• 質問生成：与えられたテキストから質問を自動生成します。
• 回答抽出：テキストから回答を抽出します。

📦 インストール

このREADMEには具体的なインストール手順が記載されていないため、このセクションは省略されます。

💻 使用例

質問生成例

• 質問生成例1
  • テキスト："生成問題：ソフィーは貴族出身ですが王族ではなく、ハプスブルク家の皇位継承者フランツ・フェルディナントとの結婚は貴賤通婚に当たります。皇帝フランツ・ヨーゼフは、両者の子孫が皇位を継承できないことを条件にこの結婚を承認しました。予定されていた視察の6月28日は、両者の結婚14周年記念日でした。"
• 質問生成例2
  • テキスト："生成問題：『ワニのプーさん』の物語は、最初は1925年12月24日に短篇作品として『エヴニングニュース』紙のクリスマス特集号に掲載されました。これは『ワニのプーさん』の第一章の内容で、このときの挿絵はJ.H.道德によって描かれました。その後、10編の物語と挿絵が完成し、正式な出版前に、『エオルの誕生日』の章は1926年8月に『ロイヤルマガジン』に掲載され、同年10月9日には『ニューヨークエヴニングポスト』に掲載され、10月14日にはロンドン（メイヒューン出版社）、21日にはニューヨーク（ダトン出版社）で『ワニのプーさん』が出版されました。前作の『私たちが小さかった頃』が大成功を収めたため、英国での初版発行部数は前作の7倍の3.5万部に達しました。アメリカ市場でも同年末までに15万部が販売されましたが、依然として人気の高い前作を売上で上回るには数年かかりました。"
• 質問生成例3
  • テキスト："生成問題：維ミル作品の項目は、17世紀のオランダの画家ヨハネス・ヴェルミールの作品を記述しています。ヴェルミールの現存する作品は、論争のある作品を含めてわずか30数点で、すべて油絵で、版画、下絵、素描は残っていません。以下に37点の作品の基本情報（一部の論争作品を含む）を収録し、簡単に説明します。並び順と推定制作年代は、『「ヴェルミールとその時代展」図録』に基づいています。日本語の作品タイトルは、この図録と『「ヴェルミール展」図録』『ヴェルミールの生涯と作品』を参考にしています。読みやすくするために、「1650年代の作品」「1660年代の作品」「1670年代の作品」の3節に分けていますが、ヴェルミールの多くの作品の制作年代は不明で、推定年代には学界の違いがあります。"

回答抽出例

• 回答抽出例1
  • テキスト："抽出答案：『ワニのプーさん』の物語は、最初は1925年12月24日に短篇作品として『エヴニングニュース』紙のクリスマス特集号に掲載されました。これは『ワニのプーさん』の第一章の内容で、このときの挿絵はJ.H.道德によって描かれました。その後、10編の物語と挿絵が完成し、正式な出版前に、『エオルの誕生日』の章は1926年8月に『ロイヤルマガジン』に掲載され、同年10月9日には『ニューヨークエヴニングポスト』に掲載され、10月14日にはロンドン（メイヒューン出版社）、21日にはニューヨーク（ダトン出版社）で『ワニのプーさん』が出版されました。前作の『私たちが小さかった頃』が大成功を収めたため、英国での初版発行部数は前作の7倍の3.5万部に達しました。アメリカ市場でも同年末までに15万部が販売されましたが、依然として人気の高い前作を売上で上回るには数年かかりました。"
• 回答抽出例2
  • テキスト："抽出答案：維ミル作品の項目は、17世紀のオランダの画家ヨハネス・ヴェルミールの作品を記述しています。ヴェルミールの現存する作品は、論争のある作品を含めてわずか30数点で、すべて油絵で、版画、下絵、素描は残っていません。すべての現存作品は油絵で、版画、下絵、素描は残っていません。以下に37点の作品の基本情報（一部の論争作品を含む）を収録し、簡単に説明します。並び順と推定制作年代は、『「ヴェルミールとその時代展」図録』に基づいています。日本語の作品タイトルは、この図録と『「ヴェルミール展」図録』『ヴェルミールの生涯と作品』を参考にしています。読みやすくするために、「1650年代の作品」「1660年代の作品」「1670年代の作品」の3節に分けていますが、ヴェルミールの多くの作品の制作年代は不明で、推定年代には学界の違いがあります。"

📚 ドキュメント

評価

質問生成指標

質問と回答生成指標

回答抽出指標

訓練ハイパーパラメータ

訓練に使用されたハイパーパラメータは以下の通りです。

• データセットパス：lmqg/qg_jaquad
• データセット名：デフォルト
• 入力タイプ：['段落_答案', '段落_句子']
• 出力タイプ：['問題', '答案']
• プレフィックスタイプ：['qg', 'ae']
• モデル：google/mt5-small
• 最大長：512
• 出力最大長：32
• 訓練エポック数：24
• バッチサイズ：64
• 学習率：0.0005
• 混合精度訓練：オフ
• 乱数シード：1
• 勾配累積ステップ数：1
• ラベルスムージング：0.15

完全な設定については、微調整設定ファイルを参照してください。

🔧 技術詳細

このセクションでは、モデルの技術的な詳細について説明します。

📄 ライセンス

このモデルは、CC-BY-4.0ライセンスの下で提供されています。

引用

@inproceedings{ushio-etal-2022-generative,
    title = "{G}enerative {L}anguage {M}odels for {P}aragraph-{L}evel {Q}uestion {G}eneration",
    author = "Ushio, Asahi  and
        Alva-Manchego, Fernando  and
        Camacho-Collados, Jose",
    booktitle = "Proceedings of the 2022 Conference on Empirical Methods in Natural Language Processing",
    month = dec,
    year = "2022",
    address = "Abu Dhabi, U.A.E.",
    publisher = "Association for Computational Linguistics",
}