Whisper Base Arabic

🚀 阿拉伯語基礎版Whisper模型

本項目基於Whisper模型，專門針對阿拉伯語進行優化，實現了高效準確的語音轉文字功能，在阿拉伯語語音識別任務中表現出色。

🚀 快速開始

該模型在評估集上取得了以下成績：

• 損失值：0.44
• 詞錯誤率（Wer）：34.7

✨ 主要特性

• 多數據集訓練：使用多個阿拉伯語語音數據集進行訓練，提升模型的泛化能力。
• 針對性優化：去除阿拉伯語中的特定符號（حركات），提高模型的識別準確性。

📚 詳細文檔

訓練和評估數據

訓練集

• mozilla-foundation/common_voice_16_0阿拉伯語 [訓練集 + 驗證集]
• BelalElhossany/mgb2_audios_transcriptions_non_overlap
• nadsoft/Jordan-Audio

交叉驗證集

為了節省訓練時間（模型在Colab免費版上訓練），從上述三個數據集中總共選取了600個樣本。 注意：可根據實際情況評估模型的準確性。

訓練過程

• 去除文本中的阿拉伯語符號（حركات）。
• 在合併後的數據集上對模型進行6個輪次的訓練，最佳模型為第5輪訓練後的模型。

訓練超參數

訓練過程中使用了以下超參數：

• 學習率（learning_rate）：1e-05
• 訓練批次大小（train_batch_size）：32
• 評估批次大小（eval_batch_size）：16
• 隨機種子（seed）：42
• 梯度累積步數（gradient_accumulation_steps）：1
• 學習率調度器類型（lr_scheduler_type）：線性
• 學習率調度器熱身步數（lr_scheduler_warmup_steps）：500

訓練結果

📄 許可證

本模型採用Apache-2.0許可證。