Mtl Mimic Voicebank

🚀 ResNet-likeモデル

このリポジトリは、SpeechBrain内で音声強化と頑健な自動音声認識（ASR）のトレーニングを行うために必要なすべてのツールを提供しています。より良い体験を得るために、SpeechBrainについてもっと学ぶことをおすすめします。このモデルの性能は以下の通りです。

SpeechBrain v0.5.12で動作します。

✨ 主な機能

• タグ: Robust ASR、audio-to-audio、speech-enhancement、PyTorch、speechbrain
• ライセンス: apache-2.0
• データセット: Voicebank、DEMAND
• 評価指標: WER、PESQ、COVL

📚 ドキュメント

パイプラインの説明

ミミック損失トレーニングシステムは3つのステップで構成されています。

1. 知覚モデルは、強化マスキングシステムで使用されると同じタイプのクリーンな音声特徴に対して事前学習されます。
2. 事前学習された知覚モデルを使用して、強化モデルがミミック損失でトレーニングされます。
3. LibriSpeechで事前学習された大規模なASRモデルが、強化フロントエンドを使用して微調整されます。

強化モデルとASRモデルは、一緒にまたは独立して使用することができます。

📦 インストール

まず、以下のコマンドでSpeechBrainをインストールしてください。

pip install speechbrain

SpeechBrainのチュートリアルを読み、もっと学ぶことをおすすめします。

💻 使用例

基本的な使用法

ミミック損失でトレーニングされたモデルを強化に使用するには、以下の簡単なコードを使用します。

import torchaudio
from speechbrain.inference.enhancement import WaveformEnhancement

enhance_model = WaveformEnhancement.from_hparams(
    source="speechbrain/mtl-mimic-voicebank",
    savedir="pretrained_models/mtl-mimic-voicebank",
)
enhanced = enhance_model.enhance_file("speechbrain/mtl-mimic-voicebank/example.wav")

# Saving enhanced signal on disk
torchaudio.save('enhanced.wav', enhanced.unsqueeze(0).cpu(), 16000)

このシステムは、16kHzでサンプリングされた録音（単チャンネル）でトレーニングされています。コードは、必要に応じて enhance_file を呼び出す際に自動的にオーディオを正規化します（リサンプリング + モノチャンネル選択）。例のように enhance_batch を使用する場合は、入力テンソルが期待されるサンプリングレートに準拠していることを確認してください。

高度な使用法

GPUで推論を行うには、from_hparams メソッドを呼び出す際に run_opts={"device":"cuda"} を追加します。

トレーニング

このモデルはSpeechBrain (150e1890) でトレーニングされました。最初からトレーニングするには、以下の手順に従ってください。

1. SpeechBrainをクローンします。

git clone https://github.com/speechbrain/speechbrain/

2. インストールします。

cd speechbrain
pip install -r requirements.txt
pip install -e .

3. トレーニングを実行します。

cd  recipes/Voicebank/MTL/ASR_enhance
python train.py hparams/enhance_mimic.yaml --data_folder=your_data_folder

トレーニング結果（モデル、ログなど）はこちらで見ることができます。

制限事項

SpeechBrainチームは、このモデルを他のデータセットで使用した場合の性能について、いかなる保証も提供しません。

ミミック損失の引用

ミミック損失が有用であると思われる場合は、以下を引用してください。

@inproceedings{bagchi2018spectral,
title={Spectral Feature Mapping with Mimic Loss for Robust Speech Recognition},
author={Bagchi, Deblin and Plantinga, Peter and Stiff, Adam and Fosler-Lussier, Eric},
booktitle={IEEE Conference on Audio, Speech, and Signal Processing (ICASSP)},
year={2018}
}

SpeechBrainについて

• ウェブサイト: https://speechbrain.github.io/
• コード: https://github.com/speechbrain/speechbrain/
• HuggingFace: https://huggingface.co/speechbrain/

SpeechBrainの引用

SpeechBrainを研究やビジネスで使用する場合は、以下を引用してください。

@misc{speechbrain,
  title={{SpeechBrain}: A General-Purpose Speech Toolkit},
  author={Mirco Ravanelli and Titouan Parcollet and Peter Plantinga and Aku Rouhe and Samuele Cornell and Loren Lugosch and Cem Subakan and Nauman Dawalatabad and Abdelwahab Heba and Jianyuan Zhong and Ju-Chieh Chou and Sung-Lin Yeh and Szu-Wei Fu and Chien-Feng Liao and Elena Rastorgueva and François Grondin and William Aris and Hwidong Na and Yan Gao and Renato De Mori and Yoshua Bengio},
  year={2021},
  eprint={2106.04624},
  archivePrefix={arXiv},
  primaryClass={eess.AS},
  note={arXiv:2106.04624}
}

📄 ライセンス

このプロジェクトは、apache-2.0ライセンスの下で公開されています。