Whisper Base Hungarian V1

🚀 Whisper Base Hungarian

このモデルは、ハンガリー語に最適化されたWhisper Baseモデルです。現在利用可能なツールと技術を駆使して作成された、ハンガリー語に特化した最適なモデルです。他のハンガリー語用のBaseモデルと比べて、すべてのデータセットで桁違いに優れた結果を達成しています。

🚀 クイックスタート

このモデルは、openai/whisper-base を sarpba/big_audio_data_hun データセットでファインチューニングしたものです。

テスト結果

• google/fleurs (hu_hu, test):
  • Loss: 0.7999
  • Wer Ortho: 33.8788
  • Wer: 29.4814
• mozilla-foundation/common_voice_17_0 (hu, test):
  • WER: 25.58
  • CER: 6.34
  • Normalised WER: 21.18
  • Normalised CER: 5.31

✨ 主な機能

• 独自のデータセットでハンガリー語に最適化されたWhisper Baseモデル。
• 他のハンガリー語用Baseモデルと比べて、すべてのデータセットで桁違いに優れた結果を達成。

📚 ドキュメント

モデルの説明

独自のデータセットでハンガリー語に最適化されたWhisper Baseモデルです。

想定される使用法と制限事項

このモデルは、私の許可なしに商用目的で使用することはできません！個人目的では、Whisperの元のライセンス条件に従って自由に使用できます！

学習と評価データ

このモデルは、約1200時間の慎重に選ばれたハンガリー語の音声データに基づいて作成されました。学習中のテストには、google/flerusデータセットを使用して進捗を確認しました。また、mozilla-foundation/common_voice_17_0の結果も下に示します。どちらのデータセットも学習データに含まれていないため、モデルはテストデータに汚染されていません！

学習手順

学習の最適化はray[tune]を使用して3日間行われ、見つかった最適な学習パラメータを使用してファインチューニングに約17時間かかりました！

学習ハイパーパラメータ

学習中に使用されたハイパーパラメータは以下の通りです。

• learning_rate: 0.0003
• train_batch_size: 64
• eval_batch_size: 32
• seed: 42
• gradient_accumulation_steps: 4
• total_train_batch_size: 256
• optimizer: Adam with betas=(0.9, 0.999) and epsilon=1e-08
• lr_scheduler_type: linear
• lr_scheduler_warmup_ratio: 0.05
• training_steps: 8000
• mixed_precision_training: Native AMP

学習結果

フレームワークのバージョン

• Transformers 4.45.2
• Pytorch 2.3.0+cu121
• Datasets 3.0.1
• Tokenizers 0.20.1

📄 ライセンス

このモデルは、Whisperの元のライセンス条件に従っています。商用目的での使用には、私の許可が必要です。

⚠️ 重要提示

商用目的での使用には、私の許可が必要です。個人目的では、Whisperの元のライセンス条件に従って自由に使用できます。

💡 使用建议

このモデルはハンガリー語に最適化されているため、ハンガリー語の音声認識タスクに最適です。