Xls R 1B Te

🚀 xls-r-1B-te模型

本模型是基於自動語音識別技術的模型，在OPENSLR_SLR66 - NA數據集上對facebook/wav2vec2-xls-r-1b進行微調得到，能有效提升語音識別的準確性。

🚀 快速開始

該模型是facebook/wav2vec2-xls-r-1b在OPENSLR_SLR66 - NA數據集上的微調版本。它在評估集上取得了以下結果：

• 損失值：0.3119
• 詞錯誤率（Wer）：0.2613

評估指標

📚 詳細文檔

模型信息

模型索引

• 名稱：xls-r-1B-te
  • 結果：
    • 任務：
      • 類型：自動語音識別
      • 名稱：語音識別
    • 數據集：
      • 類型：openslr
      • 名稱：Open SLR
      • 參數：SLR66
    • 評估指標：
      • 類型：wer
      • 值：20.624
      • 名稱：測試詞錯誤率（Test WER）
      • 類型：cer
      • 值：3.979
      • 名稱：測試字符錯誤率（Test CER）
      • 類型：wer
      • 值：26.14777618364419
      • 名稱：測試詞錯誤率（無語言模型）（Test WER (without LM)）
      • 類型：cer
      • 值：4.932543184970369
      • 名稱：測試字符錯誤率（無語言模型）（Test CER (without LM)）

🔧 技術細節

訓練過程

訓練超參數

訓練期間使用了以下超參數：

• 學習率：2e - 05
• 訓練批次大小：16
• 評估批次大小：4
• 隨機種子：42
• 梯度累積步數：2
• 總訓練批次大小：32
• 優化器：Adam（β1 = 0.9，β2 = 0.999，ε = 1e - 08）
• 學習率調度器類型：線性
• 學習率調度器熱身步數：2000
• 訓練輪數：150.0
• 混合精度訓練：原生自動混合精度（Native AMP）

訓練結果

框架版本

• Transformers 4.16.0.dev0
• Pytorch 1.10.1+cu102
• Datasets 1.17.1.dev0
• Tokenizers 0.11.0

📄 許可證

本模型採用Apache-2.0許可證。