Wav2vec2 Large Xls R 300m Hi Cv8

🚀 wav2vec2-large-xls-r-300m-hi-cv8

このモデルは、MOZILLA-FOUNDATION/COMMON_VOICE_8_0 - HI データセットで facebook/wav2vec2-xls-r-300m をファインチューニングしたバージョンです。評価セットでは以下の結果を達成しています。

• 損失: 0.6510
• 単語誤り率 (Wer): 0.3179

🚀 クイックスタート

評価コマンド

1. mozilla-foundation/common_voice_8_0 のテストスプリットで評価する場合

python eval.py --model_id DrishtiSharma/wav2vec2-large-xls-r-300m-hi-cv8 --dataset mozilla-foundation/common_voice_8_0 --config hi --split test --log_outputs

2. speech-recognition-community-v2/dev_data で評価する場合

python eval.py --model_id DrishtiSharma/wav2vec2-large-xls-r-300m-hi-cv8 --dataset speech-recognition-community-v2/dev_data --config hi --split validation --chunk_length_s 10 --stride_length_s 1

注意: speech-recognition-community-v2/dev_data にヒンディー語は含まれていません。

✨ 主な機能

• 自動音声認識タスクに適用可能です。
• モデルは、MOZILLA-FOUNDATION/COMMON_VOICE_8_0 - HI データセットで訓練されています。

🔧 技術詳細

訓練ハイパーパラメータ

訓練中に使用されたハイパーパラメータは以下の通りです。

• train_batch_size: 16
• eval_batch_size: 8
• seed: 42
• gradient_accumulation_steps: 2
• total_train_batch_size: 32
• optimizer: Adam (betas=(0.9,0.999), epsilon=1e-08)
• lr_scheduler_type: linear
• lr_scheduler_warmup_steps: 2000
• num_epochs: 50
• mixed_precision_training: Native AMP

訓練結果

フレームワークバージョン

• Transformers 4.16.2
• Pytorch 1.10.0+cu111
• Datasets 1.18.3
• Tokenizers 0.11.0

📄 ライセンス

このモデルは Apache-2.0 ライセンスの下で提供されています。