Resepformer Wsj02mix

🚀 WSJ0-2Mixで学習されたRE-SepFormer

このリポジトリは、RE-SepFormerモデルを使用して音声ソース分離を行うために必要なすべてのツールを提供します。このモデルはSpeechBrainで実装され、WSJ0-2Mixデータセットで事前学習されています。より良い体験を得るために、SpeechBrainについてもっと学ぶことをおすすめします。このモデルは、WSJ0-2Mixデータセットのテストセットで18.6dBの性能を達成しています。

🚀 クイックスタート

✨ 主な機能

• SpeechBrainを使用したRE-SepFormerモデルによる音声ソース分離
• WSJ0-2Mixデータセットで事前学習されたモデル
• テストセットで18.6dBの性能

📦 インストール

まず、以下のコマンドでSpeechBrainをインストールしてください。

pip install speechbrain

SpeechBrainのチュートリアルを読み、もっと学ぶことをおすすめします。

💻 使用例

基本的な使用法

自分の音声ファイルでソース分離を行うには、以下のコードを使用します。

from speechbrain.inference.separation import SepformerSeparation as separator
import torchaudio

model = separator.from_hparams(source="speechbrain/resepformer-wsj02mix", savedir='pretrained_models/resepformer-wsj02mix')

# カスタムファイルの場合は、パスを変更してください
est_sources = model.separate_file(path='speechbrain/sepformer-wsj02mix/test_mixture.wav') 

torchaudio.save("source1hat.wav", est_sources[:, :, 0].detach().cpu(), 8000)
torchaudio.save("source2hat.wav", est_sources[:, :, 1].detach().cpu(), 8000)

このシステムは、8kHzでサンプリングされた単チャンネルの入力録音を想定しています。信号のサンプルレートが異なる場合は、インターフェースを使用する前に（例えばtorchaudioやsoxを使用して）リサンプリングしてください。

高度な使用法

GPUで推論を行うには、from_hparamsメソッドを呼び出すときにrun_opts={"device":"cuda"}を追加します。

🔧 技術詳細

トレーニング

このモデルはSpeechBrain (fc2eabb7) でトレーニングされました。ゼロからトレーニングするには、以下の手順に従ってください。

1. SpeechBrainをクローンします。

git clone https://github.com/speechbrain/speechbrain/

2. インストールします。

cd speechbrain
pip install -r requirements.txt
pip install -e .

3. トレーニングを実行します。

cd  recipes/WSJ0Mix/separation
python train.py hparams/sepformer.yaml --data_folder=your_data_folder

トレーニング結果（モデル、ログなど）はこちらで確認できます。

📄 ライセンス

このモデルはApache-2.0ライセンスの下で提供されています。

制限事項

SpeechBrainチームは、このモデルを他のデータセットで使用した場合の性能について、いかなる保証も提供しません。

参考文献

SpeechBrainの引用

@misc{speechbrain,
  title={{SpeechBrain}: A General-Purpose Speech Toolkit},
  author={Mirco Ravanelli and Titouan Parcollet and Peter Plantinga and Aku Rouhe and Samuele Cornell and Loren Lugosch and Cem Subakan and Nauman Dawalatabad and Abdelwahab Heba and Jianyuan Zhong and Ju-Chieh Chou and Sung-Lin Yeh and Szu-Wei Fu and Chien-Feng Liao and Elena Rastorgueva and François Grondin and William Aris and Hwidong Na and Yan Gao and Renato De Mori and Yoshua Bengio},
  year={2021},
  eprint={2106.04624},
  archivePrefix={arXiv},
  primaryClass={eess.AS},
  note={arXiv:2106.04624}
}

RE-SepFormerの引用

@inproceedings{dellalibera2024resourceefficient,
      title={Resource-Efficient Separation Transformer}, 
      author={Luca Della Libera and Cem Subakan and Mirco Ravanelli and Samuele Cornell and Frédéric Lepoutre and François Grondin},
      year={2024},
      booktitle={ICASSP 2024},
}

SpeechBrainについて

• ウェブサイト: https://speechbrain.github.io/
• コード: https://github.com/speechbrain/speechbrain/
• HuggingFace: https://huggingface.co/speechbrain/