Whisper Large V3 Myanmar

🚀 whisper-large-v3-myanmar

このモデルは、openai/whisper-large-v3 を chuuhtetnaing/myanmar-speech-dataset-openslr-80 データセットでファインチューニングしたバージョンです。評価セットでは、以下の結果が得られました。

• 損失値：0.1752
• 文字誤り率（Wer）：54.8976

🚀 クイックスタート

このモデルは、openai/whisper-large-v3 を特定のミャンマー語音声データセットでファインチューニングした自動音声認識モデルで、ミャンマー語の音声をテキストに変換するために使用できます。

💻 使用例

基本的な使用法

from datasets import Audio, load_dataset
from transformers import pipeline

# Load a sample audio
dataset = load_dataset("chuuhtetnaing/myanmar-speech-dataset-openslr-80")
dataset = dataset.cast_column("audio", Audio(sampling_rate=16000))
test_dataset = dataset['test']
input_speech = test_dataset[42]['audio']

pipe = pipeline(model='chuuhtetnaing/whisper-large-v3-myanmar')

output = pipe(input_speech, generate_kwargs={"language": "myanmar", "task": "transcribe"})
print(output['text']) # ကျမ ပြည်ပ မှာ ပညာသင် တော့ စာမေးပွဲ ကို တပတ်တခါ စစ်တယ်

🔧 技術詳細

学習ハイパーパラメータ

学習過程では、以下のハイパーパラメータが使用されました。

• 学習率：0.0003
• 学習バッチサイズ：20
• 評価バッチサイズ：20
• 乱数シード：42
• 勾配累積ステップ数：3
• 総学習バッチサイズ：60
• オプティマイザ：Adam（β1 = 0.9，β2 = 0.999，ε = 1e-08）
• 学習率スケジューラのタイプ：線形
• 学習率スケジューラのウォームアップステップ数：200
• 学習エポック数：30
• 混合精度学習：Native AMP

学習結果

フレームワークバージョン

• Transformers 4.35.2
• Pytorch 2.1.1+cu121
• Datasets 2.14.5
• Tokenizers 0.15.1

📄 ライセンス

このモデルは、Apache-2.0 ライセンスで提供されています。