Whisper Large V3 Turbo Common Voice 19 0 Zh TW

🚀 whisper-large-v3-turbo-common_voice_19_0-zh-TW

このモデルは、オープンソースの繁体字中国語（台湾）の自動音声認識（ASR）モデルです。openai/whisper-large-v3-turbo を JacobLinCool/common_voice_19_0_zh-TW データセットでファインチューニングしたものです。評価セットでは以下の結果を達成しています。

📚 ドキュメント

モデルの説明

これはオープンソースの繁体字中国語（台湾）の自動音声認識（ASR）モデルです。

想定される用途と制限

このモデルは、繁体字中国語用のプロンプト不要のASRモデルとして設計されています。Whisperから引き継いだ言語識別（LID）システムが同じ言語トークン (zh) の下で他の中国語のバリアントをサポートしているため、簡体字中国語を文字起こしする際には性能が低下する可能性があります。

このモデルはMITライセンスの下で自由に使用できます。

学習と評価データ

このモデルは、Common Voice Corpus 19.0 Chinese (Taiwan) Subset で学習されました。このデータセットには約50kの学習例（44時間）と5kのテスト例（5時間）が含まれています。このデータセットは、mozilla-foundation/common_voice_16_1 の学習セットと検証セット (train+validation) の組み合わせ（約12kの例）の約4倍の大きさです。

学習手順

Tensorboard

学習ハイパーパラメータ

学習中に以下のハイパーパラメータが使用されました。

• learning_rate: 0.0002
• train_batch_size: 4
• eval_batch_size: 32
• seed: 42
• gradient_accumulation_steps: 8
• total_train_batch_size: 32
• optimizer: OptimizerNames.ADAMW_TORCHを使用し、betas=(0.9,0.999)、epsilon=1e-08、optimizer_args=追加のオプティマイザ引数なし
• lr_scheduler_type: linear
• lr_scheduler_warmup_steps: 50
• training_steps: 5000

学習結果

フレームワークのバージョン

• PEFT 0.13.2
• Transformers 4.46.1
• Pytorch 2.4.0
• Datasets 3.0.2
• Tokenizers 0.20.1

📄 ライセンス

このモデルはMITライセンスの下で提供されています。