Wav2vec2 Large Xls R 300m Br D10

🚀 wav2vec2-large-xls-r-300m-br-d10

このモデルは、MOZILLA-FOUNDATION/COMMON_VOICE_8_0 - BRデータセットでfacebook/wav2vec2-xls-r-300mをファインチューニングしたバージョンです。評価セットでは以下の結果を達成しています。

• 損失: 1.1382
• Wer: 0.4895

🚀 クイックスタート

評価コマンド

1. mozilla-foundation/common_voice_8_0のテストスプリットで評価する場合

python eval.py --model_id DrishtiSharma/wav2vec2-large-xls-r-300m-br-d10 --dataset mozilla-foundation/common_voice_8_0 --config br --split test --log_outputs

2. speech-recognition-community-v2/dev_dataで評価する場合 ブルトン語はspeech-recognition-community-v2/dev_dataでは使用できません。

📚 ドキュメント

モデル情報

モデルの結果

• タスク: 自動音声認識
• データセット: mozilla-foundation/common_voice_8_0 (Common Voice 8, br)
  • 評価指標:
    • Wer: 0.5230357484228637 (Test WER)
    • Cer: 0.1880661144228536 (Test CER)
• タスク: 自動音声認識
• データセット: speech-recognition-community-v2/dev_data (Robust Speech Event - Dev Data, br)
  • 評価指標:
    • Wer: NA (Test WER)
    • Cer: NA (Test CER)

訓練ハイパーパラメータ

• 学習率: 0.0004
• 訓練バッチサイズ: 16
• 評価バッチサイズ: 8
• シード: 42
• 勾配累積ステップ: 2
• 総訓練バッチサイズ: 32
• オプティマイザ: Adam (betas=(0.9,0.999), epsilon=1e-08)
• 学習率スケジューラのタイプ: 線形
• 学習率スケジューラのウォームアップステップ: 800
• エポック数: 50
• 混合精度訓練: Native AMP

訓練結果

フレームワークのバージョン

• Transformers 4.16.2
• Pytorch 1.10.0+cu111
• Datasets 1.18.3
• Tokenizers 0.11.0

📄 ライセンス

このモデルはApache-2.0ライセンスの下で提供されています。