Wav2vec2 Large Xls R 300m Slovak

🚀 wav2vec2-large-xls-r-300m-slovak

該模型是基於 facebook/wav2vec2-xls-r-300m 在 MOZILLA-FOUNDATION/COMMON_VOICE_7_0 - SK 數據集上進行微調的版本。它在評估集上取得了以下成果：

• 損失率：0.2915
• 詞錯誤率（Wer）：0.2481

🚀 快速開始

本模型是針對斯洛伐克語語音識別進行微調的版本，可直接應用於相關語音識別任務。

✨ 主要特性

• 微調基礎模型：基於 facebook/wav2vec2-xls-r-300m 模型進行微調，繼承了其強大的語音特徵提取能力。
• 多數據集評估：在多個數據集上進行評估，包括 Common Voice 7 和 Robust Speech Event 相關數據集，結果顯示了其在不同場景下的性能表現。

📦 安裝指南

文檔未提供具體安裝步驟，暫不展示。

💻 使用示例

文檔未提供代碼示例，暫不展示。

📚 詳細文檔

模型信息

評估結果

訓練過程

訓練超參數

• 學習率：7e - 05
• 訓練批次大小：32
• 評估批次大小：1
• 隨機種子：42
• 優化器：Adam（β1 = 0.9，β2 = 0.999，ε = 1e - 08）
• 學習率調度器類型：線性
• 學習率調度器熱身步數：3000
• 訓練輪數：100.0
• 混合精度訓練：Native AMP

訓練結果

框架版本

• Transformers 4.16.0.dev0
• Pytorch 1.10.1 + cu102
• Datasets 1.17.1.dev0
• Tokenizers 0.11.0

🔧 技術細節

文檔中關於模型描述、預期用途與限制、訓練和評估數據等部分信息不足，未達到技術細節展示的要求，暫不展示。

📄 許可證

本模型使用的許可證為 Apache - 2.0。