Wav2vec2 Large Xls R 300m Mongolian

🚀 XLS - R - 300M - モンゴル語音声認識モデル

このモデルは自動音声認識技術に基づいており、モンゴル語音声認識タスクで微調整トレーニングが行われています。モンゴル語音声データを効果的に処理でき、関連する評価セットで一定の成果を収めています。

📚 ドキュメント

モデルのラベルとデータセット

• ラベル：自動音声認識、トレーナーから生成、HF音声認識ランキング、モンゴル語、対話モデル、Mozilla財団のCommon Voice 7.0データセット、ロバスト音声イベントなどのラベルが含まれています。
• データセット：Mozilla財団のCommon Voice 7.0データセットを使用しています。

モデルインデックス

• モデル名：XLS - R - 300M - Mongolian
• 評価結果：
  • Common Voice 7データセット（モンゴル語）での自動音声認識タスク：
    • テスト単語誤り率（Test WER）：44.709
    • テスト文字誤り率（Test CER）：13.532
  • ロバスト音声イベント - 開発データ（モンゴル語）での自動音声認識タスク：
    • テスト単語誤り率（Test WER）：76.643
    • テスト文字誤り率（Test CER）：36.997
  • ロバスト音声イベント - テストデータ（モンゴル語）での自動音声認識タスク：
    • テスト単語誤り率（Test WER）：78.45

モデル概要

このモデルは[facebook/wav2vec2 - xls - r - 300m](https://huggingface.co/facebook/wav2vec2 - xls - r - 300m)をMOZILLA - FOUNDATION/COMMON_VOICE_7_0 - MNデータセットで微調整したバージョンです。評価セットで以下の結果を得ています：

• 損失値（Loss）：0.6003
• 単語誤り率（Wer）：0.4473

トレーニングと評価データ

関連する詳細情報は提供されていません。

トレーニングプロセス

トレーニングハイパーパラメータ

• 学習率（learning_rate）：0.0003
• トレーニングバッチサイズ（train_batch_size）：32
• 評価バッチサイズ（eval_batch_size）：1
• 乱数シード（seed）：42
• オプティマイザ（optimizer）：Adam（β1 = 0.9，β2 = 0.999，ε = 1e - 08）
• 学習率スケジューラのタイプ（lr_scheduler_type）：線形
• 学習率スケジューラのウォームアップステップ数（lr_scheduler_warmup_steps）：2000
• トレーニングエポック数（num_epochs）：100.0
• 混合精度トレーニング（mixed_precision_training）：ネイティブ自動混合精度（Native AMP）

トレーニング結果

フレームワークバージョン

• Transformers：4.16.0.dev0
• Pytorch：1.10.1 + cu102
• Datasets：1.17.1.dev0
• Tokenizers：0.11.0

📄 ライセンス

このモデルはApache - 2.0ライセンスを使用しています。