Wav2vec2 Xls R 300m Cv7 Turkish

🚀 wav2vec2-xls-r-300m-cv7-turkish

この自動音声認識（ASR）モデルは、トルコ語に対してfacebook/wav2vec2-xls-r-300mをファインチューニングしたバージョンです。このモデルは、トルコ語の音声を高精度に認識するために設計されています。

🚀 クイックスタート

このモデルを使用するには、まず必要なパッケージをインストールし、評価コマンドを実行します。詳細は以下のセクションを参照してください。

✨ 主な機能

• トルコ語に特化した自動音声認識モデルです。
• 複数のデータセットを用いてファインチューニングされており、高精度な認識が可能です。

📦 インストール

評価を実行する前に、unicode_trパッケージをインストールしてください。これはトルコ語のテキスト処理に使用されます。

💻 使用例

基本的な使用法

mozilla-foundation/common_voice_7_0のtestスプリットで評価するには、以下のコマンドを実行します。

python eval.py --model_id mpoyraz/wav2vec2-xls-r-300m-cv7-turkish --dataset mozilla-foundation/common_voice_7_0 --config tr --split test

高度な使用法

speech-recognition-community-v2/dev_dataで評価するには、以下のコマンドを実行します。

python eval.py --model_id mpoyraz/wav2vec2-xls-r-300m-cv7-turkish --dataset speech-recognition-community-v2/dev_data --config tr --split validation --chunk_length_s 5.0 --stride_length_s 1.0

📚 ドキュメント

モデルの説明

このASRモデルは、トルコ語に対してfacebook/wav2vec2-xls-r-300mをファインチューニングしたバージョンです。

学習と評価データ

以下のデータセットがファインチューニングに使用されました。

• Common Voice 7.0 TR すべてのvalidatedスプリット（testスプリットを除く）が学習に使用されました。
• MediaSpeech

学習手順

上記の両方のデータセットをサポートするために、カスタムの前処理とロード手順が実行され、wav2vec2-turkishリポジトリがその目的で使用されました。

学習ハイパーパラメータ

以下のハイパーパラメータがファインチューニングに使用されました。

• learning_rate 2e-4
• num_train_epochs 10
• warmup_steps 500
• freeze_feature_extractor
• mask_time_prob 0.1
• mask_feature_prob 0.05
• feat_proj_dropout 0.05
• attention_dropout 0.05
• final_dropout 0.05
• activation_dropout 0.05
• per_device_train_batch_size 8
• per_device_eval_batch_size 8
• gradient_accumulation_steps 8

フレームワークのバージョン

• Transformers 4.16.0.dev0
• Pytorch 1.10.1
• Datasets 1.17.0
• Tokenizers 0.10.3

言語モデル

N-gram言語モデルは、KenLMを使用してトルコ語のウィキペディア記事で学習され、ngram-lm-wikiリポジトリがarpa LMを生成してバイナリ形式に変換するために使用されました。

評価結果

📄 ライセンス

このモデルはCC BY 4.0ライセンスの下で提供されています。