Wav2vec2 Large Xls R 300m Kk With LM

🚀 wav2vec2-large-xls-r-300m-kk-with-LM 语音识别模型

本模型是一个用于自动语音识别的模型，基于特定数据集进行微调，在评估集上取得了一定的识别效果，可用于哈萨克语的语音识别任务。

📚 详细文档

模型信息

评估结果

本模型在不同数据集上的评估结果如下：

评估命令

1. 在 mozilla-foundation/common_voice_8_0 测试集上进行评估：

python eval.py  --model_id DrishtiSharma/wav2vec2-large-xls-r-300m-kk-with-LM  --dataset mozilla-foundation/common_voice_8_0 --config kk --split test --log_outputs

2. 在 speech-recognition-community-v2/dev_data 上评估：

⚠️ 重要提示

哈萨克语在 speech-recognition-community-v2/dev_data 中不可用。

训练超参数

训练过程中使用的超参数如下：

• 学习率：0.000222
• 训练批次大小：16
• 评估批次大小：8
• 随机种子：42
• 梯度累积步数：2
• 总训练批次大小：32
• 优化器：Adam（β1 = 0.9，β2 = 0.999，ε = 1e-08）
• 学习率调度器类型：线性
• 学习率调度器热身步数：1000
• 训练轮数：150.0
• 混合精度训练：Native AMP

训练结果

框架版本

• Transformers 4.17.0.dev0
• Pytorch 1.10.2+cu102
• Datasets 1.18.2.dev0
• Tokenizers 0.11.0

评估命令示例

!python eval.py \
    --model_id DrishtiSharma/wav2vec2-xls-r-300m-kk-n2 \
    --dataset mozilla-foundation/common_voice_8_0 --config kk --split test --log_outputs

📄 许可证

本模型使用 Apache-2.0 许可证。