Kabyle Xlsr

🚀 Akashpb13/Kabyle_xlsr

該模型是基於MOZILLA - FOUNDATION/COMMON_VOICE_7_0 - hu數據集，對[facebook/wav2vec2 - xls - r - 300m](https://huggingface.co/facebook/wav2vec2 - xls - r - 300m)進行微調後的版本。它能有效處理語音識別相關任務，在語音識別評估中展現出較好的性能。

✨ 主要特性

• 基於預訓練模型“facebook/wav2vec2 - xls - r - 300m”進行微調，能更好地適應特定語音數據集。
• 在評估集上取得了較好的結果，如Loss為0.159032，Wer為0.187934 。

📚 詳細文檔

模型描述

對“facebook/wav2vec2 - xls - r - 300m”進行了微調。

預期用途與限制

更多信息待補充。

訓練和評估數據

• 訓練數據：Common voice Kabyle train.tsv。由於數據集規模巨大，僅隨機採樣了50,000條記錄進行訓練。只考慮那些點贊數大於反對數的點，並且在合併Common Voice 7.0中所有給定數據集後去除了重複項。

訓練過程

為創建訓練數據集，將所有可能的數據集進行了合併，並採用了90 - 10的分割方式。

訓練超參數

訓練過程中使用了以下超參數：

訓練結果

框架版本

• Transformers 4.16.0.dev0
• Pytorch 1.10.0+cu102
• Datasets 1.18.3
• Tokenizers 0.10.3

評估命令

1. 在mozilla - foundation/common_voice_8_0的test分割上進行評估：

python eval.py --model_id Akashpb13/Kabyle_xlsr --dataset mozilla - foundation/common_voice_8_0 --config kab --split test

📄 許可證

本項目採用Apache - 2.0許可證。