Wav2vec2 Xls R Sl A2

🚀 wav2vec2-xls-r-sl-a2 语音识别模型

本模型是基于Transformer架构的自动语音识别模型，在MOZILLA-FOUNDATION/COMMON_VOICE_8_0 - SL数据集上微调，可有效提升斯洛文尼亚语语音识别的准确性。

🚀 快速开始

本模型是 facebook/wav2vec2-xls-r-300m 在MOZILLA - FOUNDATION/COMMON_VOICE_8_0 - SL数据集上的微调版本。它在评估集上取得了以下结果：

• 损失率：0.2855
• 词错误率（WER）：0.2401

✨ 主要特性

• 多数据集验证：在多个数据集上进行评估，包括Common Voice 8和Robust Speech Event等，验证了模型的泛化能力。
• 多指标评估：使用词错误率（WER）和字符错误率（CER）等指标进行评估，全面衡量模型性能。

📦 安装指南

文档未提供安装步骤，故跳过此章节。

💻 使用示例

文档未提供代码示例，故跳过此章节。

📚 详细文档

评估命令

1. 在 mozilla - foundation/common_voice_8_0 测试集上进行评估

python eval.py --model_id DrishtiSharma/wav2vec2-xls-r-sl-a2 --dataset mozilla-foundation/common_voice_8_0 --config sl --split test --log_outputs

2. 在 speech - recognition - community - v2/dev_data 上进行评估 沃蒂克语在 speech - recognition - community - v2/dev_data 中未找到。

训练超参数

以下是训练过程中使用的超参数：

• 学习率：7e - 05
• 训练批次大小：32
• 评估批次大小：32
• 随机种子：42
• 优化器：Adam（β1 = 0.9，β2 = 0.999，ε = 1e - 08）
• 学习率调度器类型：线性
• 学习率调度器热身步数：1000
• 训练轮数：100.0
• 混合精度训练：Native AMP

训练结果

框架版本

• Transformers：4.17.0.dev0
• Pytorch：1.10.2 + cu102
• Datasets：1.18.2.dev0
• Tokenizers：0.11.0

🔧 技术细节

本模型基于Transformer架构，在预训练模型的基础上，使用特定的数据集进行微调，以适应斯洛文尼亚语的语音识别任务。通过调整超参数和优化训练过程，不断提升模型的性能。

📄 许可证

本模型采用Apache - 2.0许可证。

模型信息表格