Wav2vec2 Large Xls R 300m Sl With LM V1

🚀 wav2vec2-large-xls-r-300m-sl-with-LM-v1

本模型是基于MOZILLA - FOUNDATION/COMMON_VOICE_8_0 - SL数据集对facebook/wav2vec2 - xls - r - 300m进行微调后的版本，可用于自动语音识别任务。

🚀 快速开始

本模型是在特定数据集上微调得到的自动语音识别模型，以下是相关的评估命令和训练信息。

📦 安装指南

文档未提供安装步骤，暂不展示。

💻 使用示例

评估命令示例

对mozilla - foundation/common_voice_8_0测试集进行评估

python eval.py --model_id DrishtiSharma/wav2vec2-large-xls-r-300m-sl-with-LM-v1 --dataset mozilla-foundation/common_voice_8_0 --config sl --split test --log_outputs

对speech - recognition - community - v2/dev_data进行评估

python eval.py --model_id DrishtiSharma/wav2vec2-large-xls-r-300m-sl-with-LM-v1 --dataset speech-recognition-community-v2/dev_data --config sl --split validation --chunk_length_s 10 --stride_length_s 1

📚 详细文档

模型信息

评估结果

训练超参数

• 学习率：7.1e - 05
• 训练批次大小：32
• 评估批次大小：32
• 随机种子：42
• 优化器：Adam（betas=(0.9, 0.999)，epsilon = 1e - 08）
• 学习率调度器类型：线性
• 学习率调度器热身步数：1000
• 训练轮数：100.0
• 混合精度训练：Native AMP

训练结果

框架版本

• Transformers 4.17.0.dev0
• Pytorch 1.10.2+cu102
• Datasets 1.18.2.dev0
• Tokenizers 0.11.0

📄 许可证

本模型使用的许可证为Apache - 2.0。