German Qg T5 Quad

🚀 german-qg-t5-quad

このモデルは、ドイツ語での質問生成に関してファインチューニングされています。期待される回答は、<hl> トークンで強調する必要があります。

🚀 クイックスタート

このモデルはドイツ語での質問生成に特化しており、特定のトークンで回答を強調することで質問を生成します。

✨ 主な機能

• ドイツ語での質問生成に特化したファインチューニング済みモデル。
• 回答を <hl> トークンで強調することで、適切な質問を生成できます。

💻 使用例

基本的な使用法

# 入力
generate question: Obwohl die Vereinigten Staaten wie auch viele Staaten des Commonwealth Erben des <hl> britischen Common Laws <hl> sind, setzt sich das amerikanische Recht bedeutend davon ab. Dies rührt größtenteils von dem langen Zeitraum her, [...]

# 期待される出力
Von welchem Gesetzt stammt das Amerikanische ab? 

📚 ドキュメント

モデルの説明

このモデルは、GermanQUAD データセットを使用して、valhalla/t5-base-qg-hl をファインチューニングしたバージョンです。

学習と評価データ

学習スクリプトは こちら からアクセスできます。

評価

このモデルは、GermanQuAD テストセット (n = 2204) で 11.30 の BLEU - 4 スコアを達成しています。

学習ハイパーパラメータ

学習中に使用されたハイパーパラメータは以下の通りです。

• learning_rate: 0.0001
• train_batch_size: 2
• eval_batch_size: 2
• seed: 100
• gradient_accumulation_steps: 8
• total_train_batch_size: 16
• optimizer: Adam with betas=(0.9,0.999) and epsilon=1e - 08
• lr_scheduler_type: linear
• num_epochs: 10

フレームワークのバージョン

• Transformers 4.13.0.dev0
• Pytorch 1.10.0+cu102
• Datasets 1.16.1
• Tokenizers 0.10.3

📄 ライセンス

このモデルは MIT ライセンスの下で提供されています。