Xtremedistil L6 H384 Go Emotion

🚀 xtremedistil-l6-h384-go-emotion

このモデルは、microsoft/xtremedistil-l6-h384-uncased を go_emotions データセット でファインチューニングしたバージョンです。

モデルのトレーニング方法とONNX形式への変換方法については、ノートブックを参照してください

このモデルは、aiserv.cloud にデプロイされており、ライブデモを試すことができます。

再現方法については、https://github.com/jobergum/browser-ml-inference を参照してください。

🚀 クイックスタート

このモデルは、特定の感情分類タスクに対して微調整されたバージョンです。以下のリンクを通じて、トレーニング方法や再現方法、デモを試すことができます。

✨ 主な機能

• 微調整済みの感情分類モデルで、特定のデータセットに最適化されています。
• ONNX形式に変換可能で、効率的な推論が可能です。
• オンラインデモが用意されており、簡単に試すことができます。

📚 ドキュメント

トレーニングハイパーパラメータ

• バッチサイズ: 128
• 学習率: 3e-05
• エポック数: 4

  Num examples = 211225
  Num Epochs = 4
  Instantaneous batch size per device = 128
  Total train batch size (w. parallel, distributed & accumulation) = 128
  Gradient Accumulation steps = 1
  Total optimization steps = 6604
 [6604/6604 53:23, Epoch 4/4]
Step	Training Loss
500	0.263200
1000	0.156900
1500	0.152500
2000	0.145400
2500	0.140500
3000	0.135900
3500	0.132800
4000	0.129400
4500	0.127200
5000	0.125700
5500	0.124400
6000	0.124100
6500	0.123400

📄 ライセンス

このモデルは、Apache-2.0ライセンスの下で提供されています。