🚀 MetricGANで学習された音声強化モデル
このリポジトリは、SpeechBrainを使用して音声強化を行うために必要なツールをすべて提供しています。より良い体験を得るために、SpeechBrainについてもっと学ぶことをおすすめします。このモデルの性能は以下の通りです。
リリース日 |
テストPESQ |
テストSTOI |
21-04-27 |
3.15 |
93.0 |
🚀 クイックスタート
📦 インストール
まずは、以下のコマンドでSpeechBrainをインストールしてください。
pip install speechbrain
なお、SpeechBrainのチュートリアルを読み、もっと詳しく学ぶことをおすすめします。
💻 使用例
基本的な使用法
強化のためにmimic-lossで学習されたモデルを使用するには、以下の簡単なコードを使用します。
import torch
import torchaudio
from speechbrain.inference.enhancement import SpectralMaskEnhancement
enhance_model = SpectralMaskEnhancement.from_hparams(
source="speechbrain/metricgan-plus-voicebank",
savedir="pretrained_models/metricgan-plus-voicebank",
)
noisy = enhance_model.load_audio(
"speechbrain/metricgan-plus-voicebank/example.wav"
).unsqueeze(0)
enhanced = enhance_model.enhance_batch(noisy, lengths=torch.tensor([1.]))
torchaudio.save('enhanced.wav', enhanced.cpu(), 16000)
このシステムは、16kHzでサンプリングされた録音(単一チャンネル)で学習されています。コードは、必要に応じて enhance_file を呼び出すときに自動的にオーディオを正規化します(すなわち、リサンプリング + モノチャンネル選択)。例のように enhance_batch を使用する場合は、入力テンソルが予期されるサンプリングレートに準拠していることを確認してください。
高度な使用法
GPUで推論を行うには、from_hparams
メソッドを呼び出すときに run_opts={"device":"cuda"}
を追加します。
🔧 技術詳細
このモデルはSpeechBrain (d0accc8) で学習されています。ゼロから学習するには、以下の手順に従ってください。
- SpeechBrainをクローンします。
git clone https://github.com/speechbrain/speechbrain/
- インストールします。
cd speechbrain
pip install -r requirements.txt
pip install -e .
- 学習を実行します。
cd recipes/Voicebank/enhance/MetricGAN
python train.py hparams/train.yaml --data_folder=your_data_folder
学習結果(モデル、ログなど)はこちらから見ることができます。
📄 ライセンス
このリポジトリはApache 2.0ライセンスの下で提供されています。
🔖 参照
MetricGAN+が役に立った場合は、以下を引用してください。
@article{fu2021metricgan+,
title={MetricGAN+: An Improved Version of MetricGAN for Speech Enhancement},
author={Fu, Szu-Wei and Yu, Cheng and Hsieh, Tsun-An and Plantinga, Peter and Ravanelli, Mirco and Lu, Xugang and Tsao, Yu},
journal={arXiv preprint arXiv:2104.03538},
year={2021}
}
🔖 SpeechBrainについて
- ウェブサイト: https://speechbrain.github.io/
- コード: https://github.com/speechbrain/speechbrain/
- HuggingFace: https://huggingface.co/speechbrain/
🔖 SpeechBrainの引用
SpeechBrainを研究やビジネスで使用する場合は、以下を引用してください。
@misc{speechbrain,
title={{SpeechBrain}: A General-Purpose Speech Toolkit},
author={Mirco Ravanelli and Titouan Parcollet and Peter Plantinga and Aku Rouhe and Samuele Cornell and Loren Lugosch and Cem Subakan and Nauman Dawalatabad and Abdelwahab Heba and Jianyuan Zhong and Ju-Chieh Chou and Sung-Lin Yeh and Szu-Wei Fu and Chien-Feng Liao and Elena Rastorgueva and François Grondin and William Aris and Hwidong Na and Yan Gao and Renato De Mori and Yoshua Bengio},
year={2021},
eprint={2106.04624},
archivePrefix={arXiv},
primaryClass={eess.AS},
note={arXiv:2106.04624}
}
⚠️ 重要提示
SpeechBrainチームは、このモデルを他のデータセットで使用した場合の性能について一切保証していません。