Mt5 Small Finetuned Amazon En Es

🚀 mt5-small-finetuned-amazon-en-es

このモデルは、google/mt5-small を未知のデータセットでファインチューニングしたバージョンです。評価セットでは以下の結果を達成しています。

• 損失: 3.0150
• Rouge1: 16.6244
• Rouge2: 7.4737
• Rougel: 16.2514
• Rougelsum: 16.3475

🚀 クイックスタート

このモデルは、google/mt5-small を未知のデータセットでファインチューニングしたものです。評価セットでは特定の損失とRougeスコアを達成しています。

🔧 技術詳細

学習ハイパーパラメータ

学習中には以下のハイパーパラメータが使用されました。

• 学習率: 5.6e-05
• 学習バッチサイズ: 8
• 評価バッチサイズ: 8
• シード: 42
• オプティマイザ: betas=(0.9,0.999)、epsilon=1e-08 の adamw_torch を使用。追加のオプティマイザ引数はありません。
• 学習率スケジューラの種類: 線形
• エポック数: 8

学習結果

フレームワークのバージョン

• Transformers 4.46.2
• Pytorch 2.5.1+cu121
• Datasets 3.1.0
• Tokenizers 0.20.3

📄 ライセンス

このライブラリは Apache-2.0 ライセンスの下で提供されています。