Whisper Tiny Myanmar

🚀 缅甸语微调版Whisper-Tiny模型

本模型基于Transformer架构，是在缅甸语语音数据集上微调的语音识别模型，可实现高精度的缅甸语语音转录，为缅甸语语音处理提供了强大工具。

🚀 快速开始

本模型是 openai/whisper-tiny 在 chuuhtetnaing/myanmar-speech-dataset-openslr-80 数据集上的微调版本。 它在评估集上取得了以下结果：

• 损失值：0.2353
• 字错率（WER）：61.8878

💻 使用示例

基础用法

from datasets import Audio, load_dataset
from transformers import pipeline

# 加载示例音频
dataset = load_dataset("chuuhtetnaing/myanmar-speech-dataset-openslr-80")
dataset = dataset.cast_column("audio", Audio(sampling_rate=16000))
test_dataset = dataset['test']
input_speech = test_dataset[42]['audio']

pipe = pipeline(model='chuuhtetnaing/whisper-tiny-myanmar')

output = pipe(input_speech, generate_kwargs={"language": "myanmar", "task": "transcribe"})
print(output['text']) # ကျွန်မ ပြည်ပ မှာ ပညာ သင် တော့ စာမြီးပွဲ ကို တပတ်တခါ စစ်တယ်

🔧 技术细节

训练超参数

训练期间使用了以下超参数：

• 学习率：0.0003
• 训练批次大小：128
• 评估批次大小：128
• 随机种子：42
• 优化器：Adam（β1 = 0.9，β2 = 0.999，ε = 1e-08）
• 学习率调度器类型：线性
• 学习率调度器热身步数：200
• 训练轮数：30
• 混合精度训练：原生自动混合精度（Native AMP）

训练结果

框架版本

• Transformers 4.35.2
• Pytorch 2.1.1+cu121
• Datasets 2.14.5
• Tokenizers 0.15.1

📄 许可证

本项目采用Apache-2.0许可证。