Whisper Large V3 Turbo Es

🚀 Whisper Large V3 Turbo - スペイン語

このモデルは、Common Voice 17.0データセットのスペイン語サブセットでopenai/whisper-large-v3-turboをファインチューニングしたバージョンです。

ファインチューニングの過程で、単語誤り率（WER）が6.91%から5.34%に低下し、スペイン語の音声の文字起こし精度が大幅に向上したことが示されています。

📚 ドキュメント

モデルの説明

詳細情報は後日追加予定です。

想定される用途と制限

詳細情報は後日追加予定です。

学習と評価データ

このモデルは、Common Voice 17.0データセットのスペイン語サブセット（mozilla-foundation/common_voice_17_0）を使用して学習されました。ベースモデルであるwhisper-large-v3-turboとファインチューニングされたモデルであるwhisper-large-v3-turbo-esの両方が、同じデータセットのテスト分割に対して単語誤り率（WER）を使用して評価されました。結果は以下の通りです。

• whisper-large-v3-turbo（ベース）のWER: 6.91%
• whisper-large-v3-turbo-es（ファインチューニング済み）のWER: 5.34%

このWERの大幅な低下は、スペイン語の音声に対してモデルをファインチューニングすることで、元のベースモデルと比較して文字起こし精度が向上したことを示しています。

学習手順

学習ハイパーパラメータ

学習中に以下のハイパーパラメータが使用されました。

• learning_rate: 1e-05
• train_batch_size: 64
• eval_batch_size: 8
• seed: 42
• optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
• lr_scheduler_type: linear
• lr_scheduler_warmup_steps: 500
• training_steps: 5000
• mixed_precision_training: Native AMP

フレームワークバージョン

• Transformers 4.44.2
• Pytorch 2.4.1+cu121
• Tokenizers 0.19.1

📄 ライセンス

このモデルはMITライセンスの下で提供されています。