Wav2vec2 Xls R 300m Cv8 Turkish

🚀 音声認識モデル - トルコ語版

このモデルは、自動音声認識を目的としたモデルです。facebook/wav2vec2-xls-r-300m を COMMON_VOICE - TR データセットでファインチューニングしたもので、評価セットで良好な結果を達成しています。

🚀 クイックスタート

このモデルは、facebook/wav2vec2-xls-r-300m を COMMON_VOICE - TR データセットでファインチューニングしたものです。評価セットでは以下の結果を達成しています。

• 損失: 0.4164
• 単語誤り率 (Wer): 0.3098
• 文字誤り率 (Cer): 0.0764

✨ 主な機能

• トルコ語の音声を高精度に認識することができます。
• 学習済みのN-gram言語モデルを使用して、認識精度を向上させています。

📦 インストール

評価を実行する前に、unicode_tr パッケージをインストールしてください。これはトルコ語のテキスト処理に使用されます。

💻 使用例

基本的な使用法

mozilla-foundation/common_voice_7_0 の test スプリットで評価する場合：

python eval.py --model_id Baybars/wav2vec2-xls-r-300m-cv8-turkish --dataset mozilla-foundation/common_voice_8_0 --config tr --split test

高度な使用法

speech-recognition-community-v2/dev_data で評価する場合：

python eval.py --model_id Baybars/wav2vec2-xls-r-300m-cv8-turkish --dataset speech-recognition-community-v2/dev_data --config tr --split validation --chunk_length_s 5.0 --stride_length_s 1.0

📚 ドキュメント

モデルの説明

このモデルに関する詳細情報は今後追加予定です。

想定される用途と制限

このモデルに関する詳細情報は今後追加予定です。

学習と評価データ

このモデルに関する詳細情報は今後追加予定です。

言語モデル

N-gram言語モデルは、mpoyraz によって、トルコ語のウィキペディア記事を使用してKenLMで学習されました。ngram-lm-wiki リポジトリを使用して、arpa LMを生成し、バイナリ形式に変換しました。

学習手順

学習ハイパーパラメータ

学習中に使用されたハイパーパラメータは以下の通りです。

• 学習率: 0.0005
• 学習バッチサイズ: 64
• 評価バッチサイズ: 8
• 乱数シード: 42
• オプティマイザ: Adam (betas=(0.9,0.999), epsilon=1e-08)
• 学習率スケジューラの種類: 線形
• 学習率スケジューラのウォームアップステップ: 500
• エポック数: 100.0
• 混合精度学習: Native AMP

学習結果

フレームワークのバージョン

• Transformers 4.17.0.dev0
• Pytorch 1.10.2+cu102
• Datasets 1.18.2.dev0
• Tokenizers 0.11.0

📄 ライセンス

このモデルは Apache-2.0 ライセンスの下で提供されています。