Wav2vec2 Large Xls R 300m Sl With LM V1

🚀 wav2vec2-large-xls-r-300m-sl-with-LM-v1

本模型是基於MOZILLA - FOUNDATION/COMMON_VOICE_8_0 - SL數據集對facebook/wav2vec2 - xls - r - 300m進行微調後的版本，可用於自動語音識別任務。

🚀 快速開始

本模型是在特定數據集上微調得到的自動語音識別模型，以下是相關的評估命令和訓練信息。

📦 安裝指南

文檔未提供安裝步驟，暫不展示。

💻 使用示例

評估命令示例

對mozilla - foundation/common_voice_8_0測試集進行評估

python eval.py --model_id DrishtiSharma/wav2vec2-large-xls-r-300m-sl-with-LM-v1 --dataset mozilla-foundation/common_voice_8_0 --config sl --split test --log_outputs

對speech - recognition - community - v2/dev_data進行評估

python eval.py --model_id DrishtiSharma/wav2vec2-large-xls-r-300m-sl-with-LM-v1 --dataset speech-recognition-community-v2/dev_data --config sl --split validation --chunk_length_s 10 --stride_length_s 1

📚 詳細文檔

模型信息

評估結果

訓練超參數

• 學習率：7.1e - 05
• 訓練批次大小：32
• 評估批次大小：32
• 隨機種子：42
• 優化器：Adam（betas=(0.9, 0.999)，epsilon = 1e - 08）
• 學習率調度器類型：線性
• 學習率調度器熱身步數：1000
• 訓練輪數：100.0
• 混合精度訓練：Native AMP

訓練結果

框架版本

• Transformers 4.17.0.dev0
• Pytorch 1.10.2+cu102
• Datasets 1.18.2.dev0
• Tokenizers 0.11.0

📄 許可證

本模型使用的許可證為Apache - 2.0。