Distilbert Imdb

🚀 distilbert-imdb

このモデルは、IMDBデータセットを使用してdistilbert-base-uncasedをファインチューニングしたバージョンで、テキスト分類タスクを効果的に実行でき、評価セットで高い精度を達成しています。

🚀 クイックスタート

このモデルは、distilbert-base-uncasedをimdbデータセットでファインチューニングしたバージョンです（トレーニングノートブックはこちらを参照）。評価セットでは以下の結果を得ています：

• 損失値：0.1903
• 正解率：0.928

📚 ドキュメント

モデル情報

トレーニングプロセス

トレーニングハイパーパラメータ

トレーニング中に以下のハイパーパラメータが使用されました：

• 学習率：5e - 05
• トレーニングバッチサイズ：16
• 評価バッチサイズ：16
• 乱数シード：42
• オプティマイザ：Adam（β1 = 0.9，β2 = 0.999，ε = 1e - 08）
• 学習率スケジューラタイプ：線形
• トレーニングエポック数：1

トレーニング結果

フレームワークバージョン

• Transformers 4.15.0
• Pytorch 1.10.0+cu111
• Datasets 1.17.0
• Tokenizers 0.10.3

📄 ライセンス

このモデルはApache - 2.0ライセンスの下で提供されています。