Whisper Tiny Myanmar

🚀 緬甸語微調版Whisper-Tiny模型

本模型基於Transformer架構，是在緬甸語語音數據集上微調的語音識別模型，可實現高精度的緬甸語語音轉錄，為緬甸語語音處理提供了強大工具。

🚀 快速開始

本模型是 openai/whisper-tiny 在 chuuhtetnaing/myanmar-speech-dataset-openslr-80 數據集上的微調版本。 它在評估集上取得了以下結果：

• 損失值：0.2353
• 字錯率（WER）：61.8878

💻 使用示例

基礎用法

from datasets import Audio, load_dataset
from transformers import pipeline

# 加載示例音頻
dataset = load_dataset("chuuhtetnaing/myanmar-speech-dataset-openslr-80")
dataset = dataset.cast_column("audio", Audio(sampling_rate=16000))
test_dataset = dataset['test']
input_speech = test_dataset[42]['audio']

pipe = pipeline(model='chuuhtetnaing/whisper-tiny-myanmar')

output = pipe(input_speech, generate_kwargs={"language": "myanmar", "task": "transcribe"})
print(output['text']) # ကျွန်မ ပြည်ပ မှာ ပညာ သင် တော့ စာမြီးပွဲ ကို တပတ်တခါ စစ်တယ်

🔧 技術細節

訓練超參數

訓練期間使用了以下超參數：

• 學習率：0.0003
• 訓練批次大小：128
• 評估批次大小：128
• 隨機種子：42
• 優化器：Adam（β1 = 0.9，β2 = 0.999，ε = 1e-08）
• 學習率調度器類型：線性
• 學習率調度器熱身步數：200
• 訓練輪數：30
• 混合精度訓練：原生自動混合精度（Native AMP）

訓練結果

框架版本

• Transformers 4.35.2
• Pytorch 2.1.1+cu121
• Datasets 2.14.5
• Tokenizers 0.15.1

📄 許可證

本項目採用Apache-2.0許可證。