Mt5 Base Wikinewssum English 100

🚀 mt5-base-wikinewssum-english-100

このモデルは、google/mt5-baseを未知のデータセットでファインチューニングしたバージョンです。評価セットでは、以下の結果を得ています。

• 損失値：6.6225
• Rouge1：3.909
• Rouge2：0.9312
• Rougel：3.3835
• Rougelsum：3.7786

🚀 クイックスタート

このモデルは、テキスト要約タスクに使用できます。google/mt5-baseをベースにファインチューニングされており、評価セットで特定の評価指標の結果を示しています。

📚 ドキュメント

モデルの説明

このモデルは、google/mt5-baseのファインチューニング版ですが、ファインチューニングに使用された具体的なデータセットの情報は提供されていません。

想定用途と制限

現在、このモデルの想定用途と制限に関する情報は提供されていません。

訓練と評価データ

現在、訓練と評価に使用されたデータに関する情報は提供されていません。

訓練過程

訓練ハイパーパラメータ

訓練過程では、以下のハイパーパラメータが使用されました。

• 学習率：5.6e - 05
• 訓練バッチサイズ：4
• 評価バッチサイズ：4
• 乱数シード：42
• 勾配累積ステップ数：2
• 総訓練バッチサイズ：8
• オプティマイザ：Adam（β1 = 0.9，β2 = 0.999，ε = 1e - 08）
• 学習率スケジューラのタイプ：線形
• 訓練エポック数：8

訓練結果

フレームワークのバージョン

• Transformers 4.13.0
• Pytorch 1.10.1
• Datasets 1.16.1
• Tokenizers 0.10.3

📄 ライセンス

このモデルは、Apache 2.0ライセンスを使用しています。