Asr Wav2vec2 Commonvoice 14 Zh CN

🚀 wav2vec 2.0 with CTC trained on CommonVoice Chinese(china) (No LM)

このリポジトリは、SpeechBrain内でCommonVoice（中国語）で事前学習されたエンドツーエンドシステムを使用して自動音声認識を実行するために必要なすべてのツールを提供します。より良い体験を得るために、SpeechBrainについてもっと学ぶことをお勧めします。

このモデルの性能は以下の通りです。

🚀 クイックスタート

このASRシステムは、2つの異なるが関連するブロックで構成されています。

• トークナイザー（ユニグラム）：単語をユニグラムに変換し、CommonVoice（zh-CN）のトレーニングトランスクリプション（train.tsv）で学習されます。
• 音響モデル（wav2vec2.0 + CTC）：事前学習されたwav2vec 2.0モデル（wav2vec2-large-xlsr-53）が2つのDNNレイヤーと組み合わされ、CommonVoice DEで微調整されます。得られた最終的な音響表現は、CTCデコーダーに渡されます。

システムは、16kHzでサンプリングされた録音（単チャンネル）でトレーニングされています。コードは、必要に応じてtranscribe_fileを呼び出すときに自動的にオーディオを正規化します（すなわち、リサンプリング + モノチャンネル選択）。

📦 インストール

まず、以下のコマンドでtranformersとSpeechBrainをインストールしてください。

pip install speechbrain transformers

弊社のチュートリアルを読み、SpeechBrainについてもっと学ぶことをお勧めします。

💻 使用例

基本的な使用法

from speechbrain.inference.ASR import EncoderASR

asr_model = EncoderASR.from_hparams(source="speechbrain/asr-wav2vec2-commonvoice-14-zh-CN", savedir="pretrained_models/asr-wav2vec2-commonvoice-14-zh-CN")
asr_model.transcribe_file("speechbrain/asr-wav2vec2-commonvoice-14-zh-CN/example-zh-CN.wav")

高度な使用法

GPUで推論を行うには、from_hparamsメソッドを呼び出す際にrun_opts={"device":"cuda"}を追加してください。

バッチでの並列推論については、このColabノートブックを参照して、事前学習されたモデルを使用して入力文のバッチを並列に文字起こしする方法を確認してください。

トレーニング

このモデルはSpeechBrainでトレーニングされました。最初からトレーニングするには、以下の手順に従ってください。

1. SpeechBrainをクローンします。

git clone https://github.com/speechbrain/speechbrain/

2. インストールします。

cd speechbrain
pip install -r requirements.txt
pip install -e .

3. トレーニングを実行します。

cd recipes/CommonVoice/ASR/CTC/
python train_with_wav2vec.py hparams/train_zh-CN_with_wav2vec.yaml --data_folder=your_data_folder

トレーニング結果（モデル、ログなど）はこちらで確認できます。

制限事項

SpeechBrainチームは、このモデルを他のデータセットで使用した場合の性能について、いかなる保証も提供しません。

📚 ドキュメント

モデル情報

モデルの結果

📄 ライセンス

このモデルは、Apache 2.0ライセンスの下で提供されています。

🔗 関連リンク

• ウェブサイト: https://speechbrain.github.io/
• コード: https://github.com/speechbrain/speechbrain/
• HuggingFace: https://huggingface.co/speechbrain/

📖 引用

このモデルを研究やビジネスで使用する場合は、SpeechBrainを引用してください。

@misc{speechbrain,
  title={{SpeechBrain}: A General-Purpose Speech Toolkit},
  author={Mirco Ravanelli and Titouan Parcollet and Peter Plantinga and Aku Rouhe and Samuele Cornell and Loren Lugosch and Cem Subakan and Nauman Dawalatabad and Abdelwahab Heba and Jianyuan Zhong and Ju-Chieh Chou and Sung-Lin Yeh and Szu-Wei Fu and Chien-Feng Liao and Elena Rastorgueva and François Grondin and William Aris and Hwidong Na and Yan Gao and Renato De Mori and Yoshua Bengio},
  year={2021},
  eprint={2106.04624},
  archivePrefix={arXiv},
  primaryClass={eess.AS},
  note={arXiv:2106.04624}
}