Wav2vec2 Xlsr Breton

🚀 sammy786/wav2vec2-xlsr-breton

このモデルは、facebook/wav2vec2-xls-r-1b を MOZILLA-FOUNDATION/COMMON_VOICE_8_0 - br データセットでファインチューニングしたもので、自動音声認識タスクに使用できます。

🚀 クイックスタート

このモデルは、布列塔ニー語の自動音声認識に特化しており、事前学習モデル facebook/wav2vec2-xls-r-1b をベースにしています。

✨ 主な機能

• 事前学習モデル facebook/wav2vec2-xls-r-1b をベースにファインチューニングされ、布列塔ニー語の自動音声認識に適しています。
• Common Voice 8 データセットで訓練および評価されています。

📚 ドキュメント

モデルの説明

"facebook/wav2vec2-xls-r-1b" モデルをファインチューニングしました。

想定される用途と制限

関連する詳細情報は後日追加予定です。

訓練と評価のデータ

訓練データには、Common voice フィンランド語の train.tsv、dev.tsv、other.tsv ファイルを使用しました。

訓練プロセス

訓練データセットを作成するために、すべての可能なデータセットを統合し、90 - 10 の分割を行いました。

訓練ハイパーパラメータ

訓練中に以下のハイパーパラメータを使用しました：

• 学習率（learning_rate）：0.000045637994662983496
• 訓練バッチサイズ（train_batch_size）：8
• 評価バッチサイズ（eval_batch_size）：32
• 乱数シード（seed）：13
• 勾配累積ステップ数（gradient_accumulation_steps）：2
• 総訓練バッチサイズ（total_train_batch_size）：64
• オプティマイザ（optimizer）：Adam、betas=(0.9, 0.999)、epsilon=1e-08
• 学習率スケジューラタイプ（lr_scheduler_type）：cosine_with_restarts
• 学習率スケジューラウォームアップステップ数（lr_scheduler_warmup_steps）：500
• 訓練エポック数（num_epochs）：30
• 混合精度訓練（mixed_precision_training）：Native AMP

フレームワークのバージョン

• Transformers：4.16.0.dev0
• Pytorch：1.10.0+cu102
• Datasets：1.17.1.dev0
• Tokenizers：0.10.3

評価コマンド

1. mozilla-foundation/common_voice_8_0 データセットの test 分割で評価を行います：

python eval.py --model_id sammy786/wav2vec2-xlsr-breton --dataset mozilla-foundation/common_voice_8_0 --config br --split test

モデル指標

📄 ライセンス

このプロジェクトは Apache-2.0 ライセンスの下で提供されています。