Wav2vec2 Ksponspeech

🚀 wav2vec2-ksponspeech

このモデルは、Wav2vec2-large-xlsr-53 をNoneデータセットでファインチューニングしたバージョンです。
評価セットでは、以下の結果を達成しています。

• 第三者テストデータの WER(Word Error Rate) : 0.373

WERを改善するための方法:

• 数値 / 文字の統一
• 正しい表記で単語をデコードする（発音に基づく単語から）
• 特殊文字（. / ?）の統一的な使用
• 存在しない単語を存在する単語に変換する

🚀 クイックスタート

このモデルは、Ksponspeechデータセットを用いた韓国語のWav2vecモデルです。評価セットで特定のWERを達成しており、WER改善のためのいくつかの方法が提案されています。

✨ 主な機能

• 韓国語音声認識に特化したモデルです。
• 特定のデータセットで訓練され、一定のWERを達成しています。
• WERを改善するためのいくつかの方法が提供されています。

📚 ドキュメント

モデルの説明

Ksponspeechデータセットを用いた韓国語のWav2vecです。

このモデルは、以下の2つのデータセットで訓練されました。

• 訓練データ1 : https://huggingface.co/datasets/Taeham/wav2vec2-ksponspeech-train (Ksponspeechの1 ~ 20000番目のデータ)
• 訓練データ2 : https://huggingface.co/datasets/Taeham/wav2vec2-ksponspeech-train2 (Ksponspeechの20100 ~ 40100番目のデータ)
• 検証データ : https://huggingface.co/datasets/Taeham/wav2vec2-ksponspeech-test (Ksponspeechの20000 ~ 20100番目のデータ)
• 第三者テストデータ : https://huggingface.co/datasets/Taeham/wav2vec2-ksponspeech-test (Ksponspeechの60000 ~ 20100番目のデータ)

ハードウェア仕様

• GPU : GEFORCE RTX 3080ti 12GB
• CPU : Intel i9-12900k
• RAM : 32GB

訓練ハイパーパラメータ

訓練中に以下のハイパーパラメータが使用されました。

• learning_rate: 0.0003
• train_batch_size: 4
• eval_batch_size: 4
• seed: 42
• optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
• lr_scheduler_type: linear
• lr_scheduler_warmup_steps: 500
• num_epochs: 30
• mixed_precision_training: Native AMP

フレームワークのバージョン

• Transformers 4.19.4
• Pytorch 1.11.0
• Datasets 2.2.2
• Tokenizers 0.12.1

📄 ライセンス

このモデルは、Apache-2.0ライセンスの下で提供されています。