Wav2vec2 Xls R 300m Cv8 Turkish

🚀 土耳其語自動語音識別模型

本模型是基於預訓練模型的微調版本，可用於土耳其語的自動語音識別任務，在相關評估集上取得了較好的結果。

🚀 快速開始

在運行評估之前，請安裝 unicode_tr 包，它用於土耳其語文本處理。

評估命令

1. 在 mozilla-foundation/common_voice_7_0 數據集的 test 分割集上進行評估：

python eval.py --model_id Baybars/wav2vec2-xls-r-300m-cv8-turkish --dataset mozilla-foundation/common_voice_8_0 --config tr --split test

2. 在 speech-recognition-community-v2/dev_data 數據集上進行評估：

python eval.py --model_id Baybars/wav2vec2-xls-r-300m-cv8-turkish --dataset speech-recognition-community-v2/dev_data --config tr --split validation --chunk_length_s 5.0 --stride_length_s 1.0

框架版本

• Transformers 4.17.0.dev0
• Pytorch 1.10.2+cu102
• Datasets 1.18.2.dev0
• Tokenizers 0.11.0

✨ 主要特性

• 本模型是 facebook/wav2vec2-xls-r-300m 在 COMMON_VOICE - TR 數據集上的微調版本。
• 採用 N - gram 語言模型，由 mpoyraz 在土耳其維基百科文章上使用 KenLM 進行訓練。

📦 安裝指南

運行評估前，需安裝 unicode_tr 包用於土耳其語文本處理。

🔧 技術細節

模型描述

本模型是 facebook/wav2vec2-xls-r-300m 在 COMMON_VOICE - TR 數據集上的微調版本，在評估集上取得了如下結果：

• 損失（Loss）：0.4164
• 詞錯誤率（Wer）：0.3098
• 字符錯誤率（Cer）：0.0764

語言模型

N - gram 語言模型由 mpoyraz 在土耳其維基百科文章上使用 KenLM 進行訓練，使用 ngram - lm - wiki 倉庫生成 arpa LM 並將其轉換為二進制格式。

訓練過程

訓練超參數

訓練過程中使用了以下超參數：

• 學習率（learning_rate）：0.0005
• 訓練批次大小（train_batch_size）：64
• 評估批次大小（eval_batch_size）：8
• 隨機種子（seed）：42
• 優化器（optimizer）：Adam，β = (0.9, 0.999)，ε = 1e - 08
• 學習率調度器類型（lr_scheduler_type）：線性
• 學習率調度器熱身步數（lr_scheduler_warmup_steps）：500
• 訓練輪數（num_epochs）：100.0
• 混合精度訓練（mixed_precision_training）：Native AMP

訓練結果

📄 許可證

本模型採用 Apache - 2.0 許可證。