German Qg T5 Drink600

🚀 german-qg-t5-drink600

このモデルは、ドイツ語の質問生成タスクに対してファインチューニングされています。期待される回答は、<hl>トークンで強調する必要があります。このモデルはgerman-qg-t5-quadをベースにしており、飲料関連の質問に対してさらに事前学習が行われています。

🚀 クイックスタート

このモデルはドイツ語の質問生成に特化しており、特定のトークンで回答を強調する必要があります。以下に具体的な使い方を示します。

✨ 主な機能

• ドイツ語での質問生成に特化したモデルです。
• 特定のトークンで回答を強調することで、質問を生成できます。
• 飲料関連の質問に対して事前学習が行われています。

💻 使用例

基本的な使用法

# 入力
generate question: Der Monk Sour Drink ist ein somit eine aromatische Überraschung, 
die sowohl <hl>im Sommer wie auch zu Silvester<hl> funktioniert.

# 期待される質問
Zu welchen Gelegenheiten passt der Monk Sour gut?

📚 ドキュメント

モデルの説明

このモデルはgerman-qg-t5-quadをベースにしており、GermanQUADで事前学習されています。さらに、Mixologyの飲料レシピに注釈付けされた質問（"drink600"）で事前学習が行われています。ソースマテリアルの著作権を持っていないため、データセットはまだオープンソース化されていません。

学習と評価データ

学習スクリプトはこちらからアクセスできます。

評価

このモデルは、drink600のテストセット（n = 120）でBLEU - 4スコア29.80、GermanQUADのテストセットで11.30を達成しています。したがって、drink600でのファインチューニングはGermanQuADでのパフォーマンスに影響を与えていません。

比較すると、german-qg-t5-quadはdrink600のテストセットで10.76のBLEU - 4スコアを達成しています。

学習ハイパーパラメータ

学習中に使用されたハイパーパラメータは以下の通りです。

• learning_rate: 0.0001
• train_batch_size: 2
• eval_batch_size: 2
• seed: 100
• gradient_accumulation_steps: 8
• total_train_batch_size: 16
• optimizer: Adam with betas=(0.9,0.999) and epsilon=1e - 08
• lr_scheduler_type: linear
• num_epochs: 10

フレームワークのバージョン

• Transformers 4.13.0.dev0
• Pytorch 1.10.0+cu102
• Datasets 1.16.1
• Tokenizers 0.10.3

📄 ライセンス

このモデルはMITライセンスの下で提供されています。