Xls Asr Vi 40h 1B

🚀 xls-asr-vi-40h-1B

本模型是 facebook/wav2vec2-xls-r-1b 在40小時的FPT開放語音數據集（FOSD）和Common Voice 7.0上微調後的版本。

🚀 快速開始

本部分暫未提供相關內容。

✨ 主要特性

• 基於預訓練模型 facebook/wav2vec2-xls-r-1b 進行微調，適用於越南語的自動語音識別任務。
• 在多個語音數據集上進行了評估，展示了較好的詞錯誤率（WER）和字符錯誤率（CER）。

📚 詳細文檔

基準測試WER結果

基準測試CER結果

評估

請使用 eval.py 文件進行評估：

python eval.py --model_id geninhu/xls-asr-vi-40h-1B --dataset mozilla-foundation/common_voice_7_0 --config vi --split test --log_outputs

訓練過程

訓練超參數

訓練過程中使用了以下超參數：

• 學習率：5e-05
• 訓練批次大小：16
• 評估批次大小：16
• 隨機種子：42
• 梯度累積步數：2
• 總訓練批次大小：32
• 優化器：Adam，β=(0.9, 0.999)，ε=1e-08
• 學習率調度器類型：線性
• 學習率調度器熱身步數：1500
• 訓練輪數：10.0
• 混合精度訓練：Native AMP

訓練結果

框架版本

• Transformers 4.16.0.dev0
• Pytorch 1.10.1+cu102
• Datasets 1.17.1.dev0
• Tokenizers 0.11.0

📄 許可證

本項目採用Apache-2.0許可證。