Wav2vec2 Large Xls R 300m Ia

🚀 wav2vec2-large-xls-r-300m-ia

このモデルは、facebook/wav2vec2-xls-r-300m を common_voice データセットでファインチューニングしたバージョンです。評価セットでは以下の結果を達成しています。

• 損失: 0.1452
• 単語誤り率 (Wer): 0.1253

🚀 クイックスタート

このモデルは、自動音声認識タスクに適用できます。以下のセクションでは、トレーニング手順や評価方法などの詳細を説明します。

📚 ドキュメント

トレーニング手順

トレーニングは Google Colab で行われ、リポジトリに提供されているトレーニングノートブックを使用します。

トレーニングと評価データ

言語モデルは、データセット（Interlingua 用の Common Voice 8.0）のトレーニング + 検証分割の処理済み文のテキストから作成されます。評価はノートブックで行われ、リポジトリ内の "notebook_evaluation_wav2vec2_ia.ipynb" で確認できます。

言語モデルを使用しない場合のテスト結果

• 単語誤り率 (wer): 20.1776 %
• 文字誤り率 (cer): 4.7205 %

言語モデルを使用した場合のテスト結果

• 単語誤り率 (wer): 8.6074 %
• 文字誤り率 (cer): 2.4147 %

eval.py を使用した評価

huggingface-cli login # Hugging Faceにログインして、Common Voice v8にアクセスするための認証トークンを取得
# 言語モデルを使用して実行
python eval.py --model_id ayameRushia/wav2vec2-large-xls-r-300m-ia --dataset mozilla-foundation/common_voice_8_0 --config ia --split test

# 言語モデルを使用せずに実行
python eval.py --model_id ayameRushia/wav2vec2-large-xls-r-300m-ia --dataset mozilla-foundation/common_voice_8_0 --config ia --split test --greedy

トレーニングハイパーパラメータ

トレーニング中に使用されたハイパーパラメータは以下の通りです。

トレーニング結果

フレームワークバージョン

• Transformers 4.17.0.dev0
• Pytorch 1.10.0+cu111
• Datasets 1.18.3
• Tokenizers 0.11.0

📄 ライセンス

このモデルは Apache-2.0 ライセンスの下で提供されています。