Hubert Base Ls960 2clsfinetuned Bmd V1 Epo10 20250201 141430 LOSO Section Out4

🚀 hubert-base-ls960-2clsfinetuned-bmd-V1-epo10-20250201_141430-LOSO-section-out4

このモデルは、facebook/hubert-base-ls960 を未知のデータセットでファインチューニングしたバージョンです。評価セットでは以下の結果を達成しています。

• 損失: 0.4886
• 正解率: 0.7826
• F1値: 0.7826
• 適合率: 0.7856
• 再現率: 0.7826

🚀 クイックスタート

このモデルは、特定のタスクに対して事前学習された hubert-base-ls960 をファインチューニングしたものです。以下に、評価セットでの主な指標を示します。

✨ 主な機能

• 未知のデータセットに対して hubert-base-ls960 をファインチューニング。
• 評価セットで一定の精度を達成。

📚 ドキュメント

モデルの説明

詳細な情報はありません。

想定される用途と制限

詳細な情報はありません。

学習と評価データ

詳細な情報はありません。

学習手順

学習ハイパーパラメータ

学習時には以下のハイパーパラメータが使用されました。

• 学習率: 0.0001
• 学習バッチサイズ: 4
• 評価バッチサイズ: 4
• シード: 1968
• 勾配累積ステップ数: 4
• 総学習バッチサイズ: 16
• オプティマイザ: betas=(0.9,0.999) かつ epsilon=1e-08 の OptimizerNames.ADAMW_TORCH を使用。オプティマイザ引数は追加なし。
• 学習率スケジューラの種類: linear
• 学習率スケジューラのウォームアップ比率: 0.1
• エポック数: 10

学習結果

フレームワークのバージョン

• Transformers 4.48.2
• Pytorch 2.5.1+cu124
• Datasets 3.2.0
• Tokenizers 0.21.0

📄 ライセンス

このライブラリは Apache-2.0 ライセンスの下で提供されています。