Xls R Kyrgiz Cv8

🚀 XLS - R - 300M 吉尔吉斯语 CV8

此模型是基于自动语音识别技术的模型，在吉尔吉斯语语音处理方面有一定表现，通过在特定数据集上微调，能为低保真度语音应用场景提供支持。

🚀 快速开始

该模型是 facebook/wav2vec2 - xls - r - 300m 在 MOZILLA - FOUNDATION/COMMON_VOICE_8_0 - KY 数据集上的微调版本。它在验证集上取得了以下结果：

• 损失值：0.5497
• 词错误率（Wer）：0.2945
• 字符错误率（Cer）：0.0791

✨ 主要特性

模型描述

关于模型架构的描述，请参考 facebook/wav2vec2 - xls - r - 300m。 模型的词汇表由去除标点的西里尔字母组成。 kenlm 语言模型是使用训练和无效语料库分割的文本构建的。

预期用途和限制

该模型预计对以下低保真度用例有一定帮助：

• 草稿视频字幕
• 录制广播的索引

该模型不够可靠，不能用作无障碍目的的实时字幕替代品，并且不应以侵犯 Common Voice 数据集的任何贡献者或任何其他说话者隐私的方式使用。

训练和评估数据

使用了通用语音官方分割的 train、dev 和 other 的组合作为训练数据。官方 test 分割的一半用作验证数据，完整的 test 集用于最终评估。

训练过程

在对吉尔吉斯语 CV8 示例句子调整最终的 CTC/LM 层时，XLS - R 模型的特征化层被冻结。使用了斜坡学习率，初始热身阶段为 500 步，最大值为 0.0001，并在剩余的 8100 步（300 个 epoch）中逐渐冷却至 0。

训练超参数

训练期间使用了以下超参数：

训练结果

框架版本

• Transformers 4.17.0.dev0
• Pytorch 1.10.2 + cu102
• Datasets 1.18.3
• Tokenizers 0.11.0

📄 许可证

本项目采用 Apache - 2.0 许可证。