Wav2vec2 Large Xls R 300m Assamese

🚀 wav2vec2-large-xls-r-300m-assamese

このモデルは、facebook/wav2vec2-xls-r-300m を common_voice_7_0 データセットでファインチューニングしたバージョンです。評価セットでは以下の結果を達成しています。

• WER: 0.7954545454545454
• CER: 0.32341269841269843

📚 ドキュメント

モデルの説明

詳細情報は後ほど提供される予定です。

想定される用途と制限

詳細情報は後ほど提供される予定です。

学習と評価データ

評価パラメータを計算するには、以下のコマンドを実行します。

cd wav2vec2-large-xls-r-300m-assamese; python eval.py --model_id ./ --dataset mozilla-foundation/common_voice_7_0 --config as --split test --log_outputs

学習手順

学習ハイパーパラメータ

学習中に使用されたハイパーパラメータは以下の通りです。

• learning_rate: 3e-4
• train_batch_size: 16
• eval_batch_size: 8
• seed: 未指定
• gradient_accumulation_steps: 2
• total_train_batch_size: 32
• optimizer: Adam (betas=(0.9,0.999), epsilon=1e-08)
• lr_scheduler_type: linear
• lr_scheduler_warmup_steps: 500
• num_epochs: 400
• mixed_precision_training: Native AMP

学習結果

フレームワークのバージョン

• Transformers 4.11.3
• Pytorch 1.10.0+cu113
• Datasets 1.13.3
• Tokenizers 0.10.3

📄 ライセンス

このモデルは Apache-2.0 ライセンスの下で提供されています。

モデル情報