Xls R Uzbek Cv8

🚀 XLS-R-300M Uzbek CV8

本模型是在MOZILLA - FOUNDATION/COMMON_VOICE_8_0 - UZ數據集上對facebook/wav2vec2 - xls - r - 300m進行微調後的版本。它在驗證集上取得了以下成果：

• 損失率：0.3063
• 詞錯誤率（Wer）：0.3852
• 字符錯誤率（Cer）：0.0777

✨ 主要特性

• 標籤信息：具備自動語音識別、從訓練器生成、HF語音識別排行榜、基於Mozilla基金會Common Voice 8.0數據集、魯棒語音事件等相關標籤。
• 數據集：使用了Mozilla基金會的Common Voice 8.0數據集。
• 基礎模型：基於facebook的wav2vec2 - xls - r - 300m模型。
• 評估指標：在測試集上，使用語言模型（LM）時，詞錯誤率（Wer）為15.065，字符錯誤率（Cer）為3.077；不使用語言模型時，詞錯誤率為32.88，字符錯誤率為6.53。

📚 詳細文檔

模型描述

關於模型架構的描述，請參考facebook/wav2vec2 - xls - r - 300m。

模型詞彙表由烏茲別克語現代拉丁字母組成，且去除了標點符號。需要注意的是，字符 <‘> 和 <’> 不算作標點符號，因為 <‘> 用於修飾 <o> 和 <g>，而 <’> 表示聲門塞音或長元音。

解碼器使用了基於Common Voice文本構建的kenlm語言模型。

預期用途與侷限性

該模型預計在低保真度用例中具有一定的實用性，例如：

• 草稿視頻字幕
• 錄製廣播的索引

該模型不夠可靠，不能作為無障礙即時字幕的替代品，並且不應以侵犯Common Voice數據集貢獻者或其他說話者隱私的方式使用。

訓練和評估數據

• 訓練數據：使用了train公共語音官方分割集的50%。
• 驗證數據：使用了官方dev分割集的50%。
• 最終評估數據：無語言模型的模型在完整的test集上進行最終評估，而有語言模型的模型僅在test集中的500個示例上進行評估。

kenlm語言模型是從訓練集和其他數據集分割的目標句子編譯而來的。

訓練超參數

訓練期間使用了以下超參數：

• 學習率：3e - 05
• 訓練批次大小：32
• 評估批次大小：8
• 隨機種子：42
• 梯度累積步數：4
• 總訓練批次大小：128
• 優化器：Adam（β1 = 0.9，β2 = 0.999，ε = 1e - 08）
• 學習率調度器類型：線性
• 學習率調度器熱身步數：500
• 訓練輪數：100.0
• 混合精度訓練：原生自動混合精度（Native AMP）

訓練結果

框架版本

• Transformers：4.16.2
• Pytorch：1.10.2 + cu102
• Datasets：1.18.3
• Tokenizers：0.11.0

📄 許可證

本項目採用Apache - 2.0許可證。