ASCEND Dataset Model

🚀 ASCEND_Dataset_Model

このモデルは、不明なデータセットで facebook/wav2vec2-xls-r-300m をファインチューニングしたバージョンです。評価セットでは以下の結果を達成しています。

• 損失: 3.9199
• Wer: 0.9540
• Cer: 0.9868

🚀 クイックスタート

このモデルは、特定の音声関連のタスクにおいて、事前学習されたモデルをファインチューニングすることで得られました。

📚 ドキュメント

モデルの説明

このモデルは、facebook/wav2vec2-xls-r-300m をベースに、不明なデータセットでファインチューニングされました。

想定される用途と制限

詳細情報は未提供です。

学習と評価データ

詳細情報は未提供です。

学習手順

学習ハイパーパラメータ

学習中に以下のハイパーパラメータが使用されました。

• learning_rate: 0.0003
• train_batch_size: 8
• eval_batch_size: 1
• seed: 42
• gradient_accumulation_steps: 2
• total_train_batch_size: 16
• optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
• lr_scheduler_type: linear
• lr_scheduler_warmup_steps: 500
• num_epochs: 20
• mixed_precision_training: Native AMP

学習結果

フレームワークのバージョン

• Transformers 4.17.0
• Pytorch 1.10.0+cu111
• Datasets 2.0.0
• Tokenizers 0.11.6

📄 ライセンス

このモデルは、Apache-2.0ライセンスの下で提供されています。