Xls R 2B Te

🚀 xls-r-1B-te模型

本模型是基於自動語音識別技術的模型，在OPENSLR_SLR66 - NA數據集上對facebook/wav2vec2-xls-r-2b進行微調得到。它在評估集上取得了較好的效果，為語音識別任務提供了有力支持。

🚀 快速開始

此模型是facebook/wav2vec2-xls-r-2b在OPENSLR_SLR66 - NA數據集上的微調版本。它在評估集上取得了以下結果：

• 損失值：0.4253
• 字錯率（Wer）：0.5109

評估指標

🔧 技術細節

訓練超參數

訓練過程中使用了以下超參數：

• 學習率：2e - 05
• 訓練批次大小：4
• 評估批次大小：4
• 隨機種子：42
• 梯度累積步數：12
• 總訓練批次大小：64
• 優化器：Adam（β1 = 0.9，β2 = 0.999，ε = 1e - 08）
• 學習率：3e - 6
• 學習率調度器類型：線性
• 學習率調度器熱身步數：2000
• 訓練輪數：150.0
• 隱藏層丟棄率：0.15
• 混合精度訓練：原生自動混合精度（Native AMP）

框架版本

• Transformers 4.16.0.dev0
• Pytorch 1.10.1+cu102
• Datasets 1.17.1.dev0
• Tokenizers 0.11.0

📄 許可證

本模型採用Apache-2.0許可證。

📚 詳細文檔

模型索引

標籤

• 自動語音識別（automatic - speech - recognition）
• openslr_SLR66
• 由訓練器生成（generated_from_trainer）
• 魯棒語音事件（robust - speech - event）
• HF自動語音識別排行榜（hf - asr - leaderboard）

數據集

• openslr
• SLR66

評估指標

• 字錯率（wer）