Indobert Base Uncased Finetuned Indonlu Smsa

🚀 indobert-base-uncased-finetuned-indonlu-smsa

このモデルは、indolem/indobert-base-uncased を indonlu データセットでファインチューニングしたバージョンです。評価セットでは以下の結果を達成しています。

• 損失: 0.2277
• 正解率: 0.9302
• F1値: 0.9066
• 適合率: 0.8992
• 再現率: 0.9147

✨ 主な機能

• このモデルは、テキスト分類タスクに使用できます。
• ユーザーは、このモデルを使用して、特定のテキストを分類することができます。

📚 ドキュメント

学習ハイパーパラメータ

学習時には以下のハイパーパラメータが使用されました。

• 学習率: 1e-05
• 学習バッチサイズ: 32
• 評価バッチサイズ: 32
• シード: 42
• オプティマイザ: Adam (betas=(0.9,0.999), epsilon=1e-08)
• 学習率スケジューラの種類: 線形
• 学習率スケジューラのウォームアップステップ: 1500
• エポック数: 10

学習結果

フレームワークバージョン

• Transformers 4.14.1
• Pytorch 1.10.0+cu111
• Datasets 1.17.0
• Tokenizers 0.10.3

📄 ライセンス

このモデルは MIT ライセンスの下で提供されています。