Xls R Kyrgiz Cv8

🚀 XLS - R - 300M 吉爾吉斯語 CV8

此模型是基於自動語音識別技術的模型，在吉爾吉斯語語音處理方面有一定表現，通過在特定數據集上微調，能為低保真度語音應用場景提供支持。

🚀 快速開始

該模型是 facebook/wav2vec2 - xls - r - 300m 在 MOZILLA - FOUNDATION/COMMON_VOICE_8_0 - KY 數據集上的微調版本。它在驗證集上取得了以下結果：

• 損失值：0.5497
• 詞錯誤率（Wer）：0.2945
• 字符錯誤率（Cer）：0.0791

✨ 主要特性

模型描述

關於模型架構的描述，請參考 facebook/wav2vec2 - xls - r - 300m。 模型的詞彙表由去除標點的西裡爾字母組成。 kenlm 語言模型是使用訓練和無效語料庫分割的文本構建的。

預期用途和限制

該模型預計對以下低保真度用例有一定幫助：

• 草稿視頻字幕
• 錄製廣播的索引

該模型不夠可靠，不能用作無障礙目的的即時字幕替代品，並且不應以侵犯 Common Voice 數據集的任何貢獻者或任何其他說話者隱私的方式使用。

訓練和評估數據

使用了通用語音官方分割的 train、dev 和 other 的組合作為訓練數據。官方 test 分割的一半用作驗證數據，完整的 test 集用於最終評估。

訓練過程

在對吉爾吉斯語 CV8 示例句子調整最終的 CTC/LM 層時，XLS - R 模型的特徵化層被凍結。使用了斜坡學習率，初始熱身階段為 500 步，最大值為 0.0001，並在剩餘的 8100 步（300 個 epoch）中逐漸冷卻至 0。

訓練超參數

訓練期間使用了以下超參數：

訓練結果

框架版本

• Transformers 4.17.0.dev0
• Pytorch 1.10.2 + cu102
• Datasets 1.18.3
• Tokenizers 0.11.0

📄 許可證

本項目採用 Apache - 2.0 許可證。