W2V2 BERT Withlm Malayalam

🚀 W2V2-BERT-withLM-Malayalam

该模型是在 IMASC、MSC、OpenSLR Malayalam Train split、Festvox Malayalam、CV16 上对 facebook/w2v-bert-2.0 进行微调后的版本。它在语音识别任务中表现出色，为马拉雅拉姆语的语音处理提供了有效的解决方案。

🚀 快速开始

此模型是一个经过微调的版本，基于 facebook/w2v-bert-2.0 在多个数据集上进行训练。它在验证集 OpenSLR-Test 上取得了以下结果：

• 损失值: 0.1722
• 字错率 (Wer): 0.1299

此外，还使用 KENLM 库在 kavyamanohar/ml-sentences 数据集上训练了三元语言模型。

📚 详细文档

模型信息

模型表现

由 Bajiyo Baiju 和 Kavya Manohar 开发的 W2V2-BERT-withLM-Malayalam 模型在多个数据集上进行了评估，结果如下：

训练和评估数据

训练和评估使用了以下数据集：

• vrclc/festvox-iiith-ml
• vrclc/openslr63
• vrclc/imasc_slr
• mozilla-foundation/common_voice_17_0
• smcproject/MSC
• kavyamanohar/ml-sentences
• thennal/IMaSC

训练过程

训练超参数

在训练过程中使用了以下超参数：

• 学习率: 5e-05
• 训练批次大小: 16
• 评估批次大小: 8
• 随机种子: 42
• 梯度累积步数: 2
• 总训练批次大小: 32
• 优化器: Adam（β1 = 0.9，β2 = 0.999，ε = 1e-08）
• 学习率调度器类型: 线性
• 学习率调度器热身步数: 500
• 训练轮数: 10
• 混合精度训练: 原生自动混合精度 (Native AMP)

训练结果

框架版本

• Transformers 4.39.3
• Pytorch 2.1.1+cu121
• Datasets 2.16.1
• Tokenizers 0.15.1

📄 许可证

本模型使用 MIT 许可证。