Wav2vec2 Large Xls R 300m Kurdish

🚀 wav2vec2-large-xls-r-300m-kurdish

このモデルは、facebook/wav2vec2-xls-r-300m を MOZILLA - FOUNDATION/COMMON_VOICE_7_0 - KMR データセットでファインチューニングしたものです。評価セットでは以下の結果を得ています。

• 損失：0.2548
• 単語誤り率（Wer）：0.2688

✨ 主な機能

• 多ラベル特性：自動音声認識、トレーナーからの生成、HF 音声認識ランキングなど、複数のラベルをカバーしています。
• 特定データセット適合：Mozilla 財団の Common Voice 7.0 クルド語（KMR）データセットを基に訓練されています。
• モデル評価指標：テストセットでは、単語誤り率（WER）と文字誤り率（CER）の明確な指標があります。

📚 ドキュメント

モデル情報

訓練過程

訓練ハイパーパラメータ

訓練時には以下のハイパーパラメータが使用されました。

• 学習率：7e - 05
• 訓練バッチサイズ：32
• 評価バッチサイズ：1
• 乱数シード：42
• オプティマイザ：Adam（β1 = 0.9，β2 = 0.999，ε = 1e - 08）
• 学習率スケジューラタイプ：線形
• 学習率スケジューラウォームアップステップ数：2000
• 訓練エポック数：100.0
• 混合精度訓練：ネイティブ自動混合精度（Native AMP）

訓練結果

フレームワークバージョン

• Transformers 4.16.0.dev0
• Pytorch 1.10.1 + cu102
• Datasets 1.17.1.dev0
• Tokenizers 0.11.0

📄 ライセンス

このモデルは Apache - 2.0 ライセンスを使用しています。