Wav2vec2 Xls R 300m Zh HK V2

🚀 Wav2Vec2 XLS - R 300M 粵語（zh - HK）

Wav2Vec2 XLS - R 300M 粵語（zh - HK）是一個基於XLS - R架構的自動語音識別模型。該模型是Wav2Vec2 - XLS - R - 300M在Common Voice數據集的zh - HK子集上進行微調的版本。

此模型使用HuggingFace的PyTorch框架進行訓練，並且是由HuggingFace組織的Robust Speech Challenge Event的一部分。所有訓練均在由OVH贊助的Tesla V100上完成。

所有訓練所需的腳本可以在Files and versions選項卡中找到，通過Tensorboard記錄的Training metrics也可查看。

🚀 快速開始

本模型可用於粵語的自動語音識別任務。你可以參考上述提到的訓練腳本和指標，在自己的項目中使用該模型。

✨ 主要特性

• 基於XLS - R架構，在粵語語音識別任務上有良好表現。
• 經過在Common Voice數據集的zh - HK子集上微調，更適配粵語語音。

📚 詳細文檔

模型

評估結果

該模型在評估中取得了以下結果：

訓練過程

訓練超參數

訓練期間使用了以下超參數：

• learning_rate：0.0001
• train_batch_size：8
• eval_batch_size：8
• seed：42
• gradient_accumulation_steps：4
• total_train_batch_size：32
• optimizer：Adam，其中betas=(0.9, 0.999)，epsilon = 1e - 08
• lr_scheduler_type：線性
• lr_scheduler_warmup_steps：2000
• num_epochs：100.0
• mixed_precision_training：Native AMP

訓練結果

免責聲明

請考慮預訓練數據集中可能存在的偏差，這些偏差可能會延續到該模型的結果中。

作者

Wav2Vec2 XLS - R 300M 粵語（zh - HK）由Wilson Wongso進行訓練和評估。所有計算和開發工作均在OVH Cloud上完成。

框架版本

• Transformers 4.17.0.dev0
• Pytorch 1.10.2 + cu102
• Datasets 1.18.4.dev0
• Tokenizers 0.11.0

📄 許可證

本項目採用Apache 2.0許可證。