Bert Base Uncased Finetuned Sdg Mar23

🚀 bert-base-uncased-finetuned-sdg-Mar23

このモデルは、bert-base-uncased をNoneデータセットでファインチューニングしたバージョンです。評価セットでは以下の結果を達成しています。

• 損失: 0.3234
• 精度: 0.9113

🚀 クイックスタート

このモデルは、特定のタスクに対して事前学習された bert-base-uncased をファインチューニングして得られました。

📚 ドキュメント

モデルの説明

詳細な情報は後日提供予定です。

想定される用途と制限

詳細な情報は後日提供予定です。

トレーニングと評価データ

詳細な情報は後日提供予定です。

ラベリング

0:'1', 1:'10', 2:'11', 3:'12', 4:'13', 5:'14', 6:'15', 7:'16', 8:'2', 9:'3', 10:'4', 11:'5', 12:'6', 13:'7', 14:'8', 15:'9'

🔧 技術詳細

トレーニング手順

トレーニングハイパーパラメータ

トレーニング中に以下のハイパーパラメータが使用されました。

• 学習率: 5e-05
• トレーニングバッチサイズ: 16
• 評価バッチサイズ: 16
• シード: 42
• 分散タイプ: マルチGPU
• オプティマイザ: Adam (betas=(0.9,0.999), epsilon=1e-08)
• 学習率スケジューラタイプ: 線形
• エポック数: 2

トレーニング結果

フレームワークバージョン

• Transformers 4.27.1
• Pytorch 1.12.0a0+8a1a93a
• Datasets 2.10.1
• Tokenizers 0.13.2

📄 ライセンス

このモデルはApache-2.0ライセンスの下で提供されています。