Wav2vec2 Base Russian Big Kaggle

🚀 wav2vec2-base-russian-big-kaggle

このモデルは、facebook/wav2vec2-base を None データセットでファインチューニングしたバージョンです。

🚀 クイックスタート

このモデルは、特定の音声関連のタスクに使用できます。具体的な使用方法については、以下のセクションを参照してください。

📚 ドキュメント

モデルの説明

詳細な情報は後日提供予定です。

想定される用途と制限

詳細な情報は後日提供予定です。

学習と評価データ

詳細な情報は後日提供予定です。

学習手順

学習ハイパーパラメータ

学習中に使用されたハイパーパラメータは以下の通りです。

• learning_rate: 0.0001
• train_batch_size: 12
• eval_batch_size: 8
• seed: 42
• gradient_accumulation_steps: 2
• total_train_batch_size: 24
• optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
• lr_scheduler_type: linear
• lr_scheduler_warmup_steps: 1000
• num_epochs: 30
• mixed_precision_training: Native AMP

学習結果

詳細な情報は後日提供予定です。

フレームワークのバージョン

• Transformers 4.11.3
• Pytorch 1.9.1
• Datasets 1.13.3
• Tokenizers 0.10.3

📄 ライセンス

このモデルは Apache-2.0 ライセンスの下で提供されています。