Wav2vec2 Xls R 300m Korean

🚀 Wav2Vec2 XLS - R 300M 韩语模型

Wav2Vec2 XLS - R 300M 韩语模型是一个基于自动语音识别技术的模型。它基于 XLS - R 架构，在 Zeroth Korean 数据集上对 Wav2Vec2 - XLS - R - 300M 模型进行了微调，能够有效处理韩语语音识别任务。

🚀 快速开始

该模型基于 HuggingFace 的 PyTorch 框架进行训练，并且是 HuggingFace 组织的 Robust Speech Challenge Event 的一部分。所有训练都在由 OVH 赞助的 Tesla V100 上完成。训练所需的所有脚本可以在 Files and versions 标签中找到，同时通过 Tensorboard 记录的 Training metrics 也可查看。

✨ 主要特性

• 基于先进的 XLS - R 架构，在韩语语音识别任务上有良好表现。
• 经过在 Zeroth Korean 数据集上的微调，更适配韩语语音场景。
• 参与了 Robust Speech Challenge Event，具备一定的鲁棒性。

📚 详细文档

模型信息

评估结果

该模型在评估中取得了以下结果：

训练过程

训练超参数

训练过程中使用了以下超参数：

• learning_rate：7.5e - 05
• train_batch_size：8
• eval_batch_size：8
• seed：42
• gradient_accumulation_steps：4
• total_train_batch_size：32
• optimizer：Adam，betas=(0.9, 0.999)，epsilon = 1e - 08
• lr_scheduler_type：线性
• lr_scheduler_warmup_steps：2000
• num_epochs：50.0
• mixed_precision_training：Native AMP

训练结果

免责声明

请考虑预训练数据集可能带来的偏差，这些偏差可能会影响该模型的结果。

作者

Wav2Vec2 XLS - R 300M 韩语模型由 Wilson Wongso 进行训练和评估。所有计算和开发工作均在 OVH Cloud 上完成。

框架版本

• Transformers 4.17.0.dev0
• Pytorch 1.10.2 + cu102
• Datasets 1.18.2.dev0
• Tokenizers 0.10.3

📄 许可证

本项目采用 Apache - 2.0 许可证。