Distilbert Base Uncased Finetuned Emotional

🚀 distilbert-base-uncased-finetuned-emotional

このモデルは、emotionデータセットでdistilbert-base-uncasedをファインチューニングしたバージョンです。評価セットでは以下の結果を達成しています。

• 損失: 0.1658
• 正解率: 0.9305
• F1値: 0.9309

📚 ドキュメント

トレーニング手順

トレーニングハイパーパラメータ

トレーニング中に以下のハイパーパラメータが使用されました。

• 学習率: 2e-05
• トレーニングバッチサイズ: 64
• 評価バッチサイズ: 64
• シード値: 42
• オプティマイザ: Adam (betas=(0.9,0.999), epsilon=1e-08)
• 学習率スケジューラの種類: 線形
• エポック数: 2

トレーニング結果

フレームワークバージョン

• Transformers 4.16.2
• Pytorch 2.1.0+cu118
• Datasets 2.9.0
• Tokenizers 0.14.1

📄 ライセンス

このモデルはApache-2.0ライセンスの下で提供されています。