Wav2vec2 Large Xls R 300m Irish

🚀 アイルランド語音声認識モデル wav2vec2-large-xls-r-300m-irish

このモデルは、自動音声認識技術に基づき、[facebook/wav2vec2 - xls - r - 300m](https://huggingface.co/facebook/wav2vec2 - xls - r - 300m)をMOZILLA - FOUNDATION/COMMON_VOICE_7_0 - GA - IEデータセットでファインチューニングしたバージョンです。評価セットで良好な結果を得ており、アイルランド語の音声認識関連タスクに使用できます。

🚀 クイックスタート

このモデルは、[facebook/wav2vec2 - xls - r - 300m](https://huggingface.co/facebook/wav2vec2 - xls - r - 300m)をMOZILLA - FOUNDATION/COMMON_VOICE_7_0 - GA - IEデータセットでファインチューニングしたバージョンです。評価セットでは以下の結果を得ています：

• 損失値（Loss）：1.1647
• 単語誤り率（Wer）：0.7296

📚 ドキュメント

モデルの説明

詳細情報は後日追加予定です。

想定用途と制限

詳細情報は後日追加予定です。

学習と評価データ

詳細情報は後日追加予定です。

🔧 技術詳細

学習ハイパーパラメータ

学習過程では以下のハイパーパラメータを使用しました：

• 学習率（learning_rate）：7e - 05
• 学習バッチサイズ（train_batch_size）：64
• 評価バッチサイズ（eval_batch_size）：8
• 乱数シード（seed）：42
• 勾配累積ステップ数（gradient_accumulation_steps）：4
• 総学習バッチサイズ（total_train_batch_size）：256
• オプティマイザ（optimizer）：Adam、β値は(0.9, 0.999)、ε値は1e - 08
• 学習率スケジューラタイプ（lr_scheduler_type）：線形
• 学習率スケジューラウォームアップステップ数（lr_scheduler_warmup_steps）：200
• 学習エポック数（num_epochs）：300.0
• 混合精度学習（mixed_precision_training）：Native AMP

学習結果

フレームワークバージョン

• Transformers 4.16.0.dev0
• Pytorch 1.10.1 + cu102
• Datasets 1.17.1.dev0
• Tokenizers 0.11.0

📄 ライセンス

このモデルはApache 2.0ライセンスを採用しています。

📦 モデル情報