Kabyle Xlsr

🚀 Akashpb13/Kabyle_xlsr

该模型是基于MOZILLA - FOUNDATION/COMMON_VOICE_7_0 - hu数据集，对[facebook/wav2vec2 - xls - r - 300m](https://huggingface.co/facebook/wav2vec2 - xls - r - 300m)进行微调后的版本。它能有效处理语音识别相关任务，在语音识别评估中展现出较好的性能。

✨ 主要特性

• 基于预训练模型“facebook/wav2vec2 - xls - r - 300m”进行微调，能更好地适应特定语音数据集。
• 在评估集上取得了较好的结果，如Loss为0.159032，Wer为0.187934 。

📚 详细文档

模型描述

对“facebook/wav2vec2 - xls - r - 300m”进行了微调。

预期用途与限制

更多信息待补充。

训练和评估数据

• 训练数据：Common voice Kabyle train.tsv。由于数据集规模巨大，仅随机采样了50,000条记录进行训练。只考虑那些点赞数大于反对数的点，并且在合并Common Voice 7.0中所有给定数据集后去除了重复项。

训练过程

为创建训练数据集，将所有可能的数据集进行了合并，并采用了90 - 10的分割方式。

训练超参数

训练过程中使用了以下超参数：

训练结果

框架版本

• Transformers 4.16.0.dev0
• Pytorch 1.10.0+cu102
• Datasets 1.18.3
• Tokenizers 0.10.3

评估命令

1. 在mozilla - foundation/common_voice_8_0的test分割上进行评估：

python eval.py --model_id Akashpb13/Kabyle_xlsr --dataset mozilla - foundation/common_voice_8_0 --config kab --split test

📄 许可证

本项目采用Apache - 2.0许可证。