Whisper Large V3 Japanese 4k Steps

🚀 whisper-large-v3-japanese-4k-steps

本模型是 openai/whisper-large-v3 在 Common Voice 16.1 数据集上的微调版本。参考了 Sanchit Gandhi 的文章，链接为 https://huggingface.co/blog/fine-tune-whisper。使用 Google Colab 的 A100 显卡，在 Common Voice 16.1 数据集上完成 4000 步训练耗时 24 小时。训练损失随训练轮次下降，但验证损失上升，出现了典型的过拟合现象，此外，字错率（WER）也有所上升。该模型在评估集上取得了以下结果：

• 损失：0.4057
• 字错率（WER）：18.2149

✨ 主要特性

• 基于 openai/whisper-large-v3 模型进行微调。
• 在 Common Voice 16.1 数据集上进行训练。

📚 详细文档

模型描述

更多信息待补充。

预期用途与限制

更多信息待补充。

训练和评估数据

更多信息待补充。

训练过程

训练超参数

训练过程中使用了以下超参数：

• 学习率：1e-05
• 训练批次大小：4
• 评估批次大小：8
• 随机种子：42
• 梯度累积步数：4
• 总训练批次大小：16
• 优化器：Adam（β1=0.9，β2=0.999，ε=1e-08）
• 学习率调度器类型：线性
• 学习率调度器热身步数：500
• 训练步数：4000
• 混合精度训练：原生自动混合精度（Native AMP）

训练结果

框架版本

• Transformers 4.35.2
• Pytorch 2.1.0+cu121
• Datasets 2.17.0
• Tokenizers 0.15.2

📄 许可证

本模型采用 Apache-2.0 许可证。

📦 模型信息