Whisper Medium Id

🚀 インドネシア語版Whisper Mediumモデル

このモデルは、openai/whisper-medium をベースに、インドネシア語のmozilla-foundation/common_voice_11_0、magic_data、titml、google/fleursデータセットでファインチューニングしたものです。以下の成果を達成しています。

🔍 モデル情報

🚀 クイックスタート

このモデルは、インドネシア語のmozilla-foundation/common_voice_11_0、magic_data、titml、google/fleursデータセットでファインチューニングされ、良好な結果を得ています。以下に詳細な使用方法と評価結果を示します。

✨ 主な機能

• インドネシア語データセットでファインチューニングされているため、インドネシア語の音声認識により良い結果をもたらします。
• 具体的な訓練ハイパーパラメータと訓練結果を提供しており、参照や再現が容易です。
• モデルを複数のデータセットで評価し、モデルの性能を示しています。

📦 インストール

インストール手順は提供されていません。Hugging Face上の transformers ライブラリのインストール方法を参考にしてください。

💻 使用例

基本的な使用法

from transformers import pipeline
transcriber = pipeline(
  "automatic-speech-recognition", 
  model="cahya/whisper-medium-id"
)
transcriber.model.config.forced_decoder_ids = (
  transcriber.tokenizer.get_decoder_prompt_ids(
    language="id", 
    task="transcribe"
  )
)
transcription = transcriber("my_audio_file.mp3")

📚 ドキュメント

訓練過程

訓練ハイパーパラメータ

訓練中に以下のハイパーパラメータが使用されました。

• 学習率（learning_rate）: 1e-06
• 訓練バッチサイズ（train_batch_size）: 16
• 評価バッチサイズ（eval_batch_size）: 16
• 乱数シード（seed）: 42
• オプティマイザ（optimizer）: Adam，β=(0.9, 0.999)，ε=1e-08
• 学習率スケジューラタイプ（lr_scheduler_type）: 線形
• 学習率スケジューラウォームアップステップ（lr_scheduler_warmup_steps）: 500
• 訓練ステップ（training_steps）: 10000
• 混合精度訓練（mixed_precision_training）: ネイティブAMP

訓練結果

評価

私たちは、Common Voice 11 と Google Fleurs の2つのデータセットのテストセットを使用して、モデルを評価しました。Whisperは大文字と小文字、句読点を識別できるため、生テキストと正規化テキスト（小文字 + 句読点除去）を使用してその性能を評価しました。結果は以下の通りです。

Common Voice 11

Google/Fleurs

フレームワークバージョン

• Transformers 4.26.0.dev0
• Pytorch 1.13.0+cu117
• Datasets 2.7.1.dev0
• Tokenizers 0.13.2

📄 ライセンス

このモデルはApache-2.0ライセンスを使用しています。