Wav2vec2 Large Xlsr 53 Demo Colab

🚀 wav2vec2-large-xlsr-53-demo-colab

このモデルは、facebook/wav2vec2-large-xlsr-53 を common_voice データセットでファインチューニングしたバージョンです。評価セットでは、以下の結果を達成しています：

• 損失値：0.3966
• 字錯率（Wer）：0.4834

🚀 クイックスタート

このモデルは、facebook/wav2vec2-large-xlsr-53 を common_voice データセットでファインチューニングして得られました。評価セットでは、具体的な損失値と字錯率の性能を示しています。

🔧 技術詳細

トレーニングハイパーパラメータ

トレーニング中には、以下のハイパーパラメータが使用されました：

• 学習率：0.0003
• トレーニングバッチサイズ：16
• 評価バッチサイズ：8
• 乱数シード：42
• 勾配累積ステップ数：2
• 総トレーニングバッチサイズ：32
• オプティマイザ：Adam（β1 = 0.9，β2 = 0.999，ε = 1e-08）
• 学習率スケジューラタイプ：線形
• 学習率スケジューラのウォームアップステップ数：500
• トレーニングエポック数：30
• 混合精度トレーニング：ネイティブ自動混合精度（Native AMP）

トレーニング結果

フレームワークバージョン

• Transformers 4.11.3
• Pytorch 1.10.0+cu111
• Datasets 1.14.0
• Tokenizers 0.10.3

📄 ライセンス

このプロジェクトは、Apache - 2.0 ライセンスを採用しています。