Whisper Small Tel

🚀 Whisper Telugu - 微調整済み

このモデルは、Telugu Audio Datasetデータセットでopenai/whisper-large-v2を微調整したバージョンです。 評価セットでは以下の結果を達成しています。

• 損失: 3.5889
• Wer: 92.3967

🚀 クイックスタート

このモデルは、オープンソースの音声認識モデルであるWhisperをTelugu言語に特化して微調整したものです。Telugu言語の音声を高精度に文字起こしすることができます。

📚 ドキュメント

モデルの詳細

このモデルは、元のWhisper-large-v2モデルをTelugu言語の音声データセットで微調整しています。これにより、Telugu言語の音声認識性能が向上しています。

想定される用途と制限

このモデルは主に、Telugu言語の音声を文字起こしするために使用されます。ただし、特定のドメインやアクセントに対しては性能が低下する可能性があります。

学習と評価データ

このモデルは、sagarchapara/telugu-audioデータセットを使用して学習されています。

学習手順

学習ハイパーパラメータ

学習中に以下のハイパーパラメータが使用されました。

• 学習率: 0.0002
• 学習バッチサイズ: 4
• 評価バッチサイズ: 16
• シード: 42
• 勾配累積ステップ: 4
• 総学習バッチサイズ: 16
• オプティマイザ: OptimizerNames.ADAMW_TORCHを使用し、ベータ=(0.9,0.999)、イプシロン=1e-08、追加のオプティマイザ引数はありません
• 学習率スケジューラタイプ: 線形
• 学習率スケジューラウォームアップステップ: 500
• 学習ステップ: 10000
• 混合精度学習: Native AMP

学習結果

フレームワークのバージョン

• Transformers 4.49.0
• Pytorch 2.6.0+cu124
• Datasets 3.3.2
• Tokenizers 0.21.0

📄 ライセンス

このモデルは、Apache-2.0ライセンスの下で提供されています。