Whisper Small Ko

🚀 whisper-small-ko

このモデルは、Whisper Smallを以下のAI hubデータセットに対してファインチューニングしたものです。
データセットのサイズが大きいため、データセットをランダムにシャッフルした後、5つに分割して学習を行いました。

🚀 クイックスタート

このセクションでは、whisper-small-koモデルの概要と学習結果について説明します。

✨ 主な機能

• Whisper SmallモデルをAI hubのデータセットでファインチューニング。
• 多数のデータセットを同時に学習することで、ドメイン依存性を軽減。

📚 ドキュメント

学習結果

データセット

このモデルは、AI hubの多数のデータセットを一度に学習させることが特徴です。
自動音声認識(ASR)はドメインに対する依存度が非常に高いため、1つのデータセットで学習しても、別のデータセットでテストすると性能が大きく低下します。
この問題を解決するために、できるだけ多くのデータセットを一度に学習させました。
今後、方言や子供、老人の音声については、アダプターを活用することで良好な性能を得ることができると思われます。

学習手順

学習ハイパーパラメータ

学習中に使用されたハイパーパラメータは以下の通りです。

• learning_rate: 1e-05
• train_batch_size: 32
• eval_batch_size: 16
• gradient_accumulation_steps: 2
• warmup_ratio: 0.01
• num_train_epoch: 1

📄 ライセンス

このモデルはApache-2.0ライセンスの下で提供されています。