Xlm Roberta Base Finetuned Marc

🚀 xlm-roberta-base-finetuned-marc

このモデルは、xlm-roberta-base を amazon_reviews_multi データセットでファインチューニングしたバージョンです。評価セットでは以下の結果を達成しています。

• 損失: 1.0276
• 平均絶対誤差（MAE）: 0.5310

📚 ドキュメント

トレーニング手順

トレーニングハイパーパラメータ

トレーニング中に以下のハイパーパラメータが使用されました。

• 学習率（learning_rate）: 2e-05
• トレーニングバッチサイズ（train_batch_size）: 16
• 評価バッチサイズ（eval_batch_size）: 16
• 乱数シード（seed）: 42
• オプティマイザ（optimizer）: Adam（ベータ=(0.9,0.999)、イプシロン=1e-08）
• 学習率スケジューラタイプ（lr_scheduler_type）: 線形
• エポック数（num_epochs）: 2

トレーニング結果

フレームワークバージョン

• Transformers 4.15.0
• Pytorch 1.10.0+cu111
• Datasets 1.17.0
• Tokenizers 0.10.3

📄 ライセンス

このモデルは MIT ライセンスの下で提供されています。