Wav2vec2 Xls R 1b Ca Lm

🚀 wav2vec2-xls-r-1b-ca-lm

このモデルは、MOZILLA-FOUNDATION/COMMON_VOICE_8_0 - CA、tv3_parla、parlament_parla の各データセットを使用して、facebook/wav2vec2-xls-r-300m をファインチューニングしたものです。自動音声認識タスクに特化しており、複数のデータセットでの評価により一定の精度を示しています。

📚 詳細ドキュメント

モデルの説明

元の facebook/wav2vec2-xls-r-1b のモデルカードをご確認ください。このモデルはその元モデルをファインチューニングしたものです。

想定用途と制限

クラウドソーシングデータで学習された他のモデルと同様に、このモデルは学習に使用されたデータやモデルのバイアスや特性を示すことがあります。また、これは音声認識モデルであるため、カタルーニャ語の一部の低リソース方言では性能が低下する可能性があります。

学習と評価データ

学習手順

データは、カタルーニャ語のアルファベットに含まれない文字を削除するように前処理されています。さらに、数字は @ccoreilly が提供するコードを使用して表現されており、このコードは text/ フォルダまたは こちら で見つけることができます。

学習結果

学習プロファイルと学習中の評価結果を確認するには、Tensorboard タブを確認してください。モデルは、学習中に使用された各データセットのテスト分割で評価されました。

学習ハイパーパラメータ

学習中に使用されたハイパーパラメータは次のとおりです。

• learning_rate: 2e-05
• train_batch_size: 8
• eval_batch_size: 8
• seed: 42
• gradient_accumulation_steps: 8
• total_train_batch_size: 64
• optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
• lr_scheduler_type: linear
• lr_scheduler_warmup_steps: 2000
• num_epochs: 10.0
• mixed_precision_training: Native AMP

フレームワークのバージョン

• Transformers 4.17.0.dev0
• Pytorch 1.10.2+cu102
• Datasets 1.18.3
• Tokenizers 0.11.0

📄 ライセンス

このモデルは Apache-2.0 ライセンスの下で提供されています。

🌟 モデル情報

🏆 評価結果

モデル名: wav2vec2-xls-r-1b-ca-lm

🙏 謝辞

@ccoreilly と @gullabi の両方に感謝します。彼らは独自のリソースと知識を提供し、このモデルを可能にしてくれました。