Xls Asr Vi 40h 1B

🚀 xls-asr-vi-40h-1B

このモデルは、facebook/wav2vec2-xls-r-1b を40時間のFPTオープン音声データセット（FOSD）とCommon Voice 7.0でファインチューニングしたバージョンです。

🚀 クイックスタート

このセクションでは、関連する内容はまだ提供されていません。

✨ 主な機能

• 事前学習モデル facebook/wav2vec2-xls-r-1b をベースにファインチューニングされており、ベトナム語の自動音声認識タスクに適しています。
• 複数の音声データセットで評価され、良好な単語誤り率（WER）と文字誤り率（CER）を示しています。

📚 ドキュメント

ベンチマークテストのWER結果

ベンチマークテストのCER結果

評価

eval.py ファイルを使用して評価を行ってください：

python eval.py --model_id geninhu/xls-asr-vi-40h-1B --dataset mozilla-foundation/common_voice_7_0 --config vi --split test --log_outputs

トレーニングプロセス

トレーニングハイパーパラメータ

トレーニングプロセスでは、以下のハイパーパラメータが使用されました：

• 学習率：5e-05
• トレーニングバッチサイズ：16
• 評価バッチサイズ：16
• ランダムシード：42
• 勾配累積ステップ数：2
• 総トレーニングバッチサイズ：32
• オプティマイザ：Adam，β=(0.9, 0.999)，ε=1e-08
• 学習率スケジューラタイプ：線形
• 学習率スケジューラウォームアップステップ数：1500
• トレーニングエポック数：10.0
• 混合精度トレーニング：Native AMP

トレーニング結果

フレームワークバージョン

• Transformers 4.16.0.dev0
• Pytorch 1.10.1+cu102
• Datasets 1.17.1.dev0
• Tokenizers 0.11.0

📄 ライセンス

このプロジェクトは、Apache-2.0ライセンスを採用しています。