Brouhaha

🚀 🎙️🥁🚨🔊 Brouhaha

Brouhaha是一个可以同时进行语音活动检测、信噪比和C50房间声学估计的模型。它基于多个数据集进行训练，能为音频处理相关任务提供有力支持。

简要说明 | 论文 | 代码 | 来点完全不同的

🚀 快速开始

Brouhaha模型可用于联合语音活动检测、信噪比和C50房间声学估计。下面将介绍其安装和使用方法。

✨ 主要特性

• 联合进行语音活动检测、信噪比和C50房间声学估计。
• 基于多个公开数据集进行训练，具有较好的泛化能力。

📦 安装指南

此模型依赖于 pyannote.audio 和 brouhaha-vad。可使用以下命令进行安装：

pip install pyannote-audio
pip install https://github.com/marianne-m/brouhaha-vad/archive/main.zip

💻 使用示例

基础用法

# 1. 访问 hf.co/pyannote/brouhaha 并接受用户使用条件
# 2. 访问 hf.co/settings/tokens 创建访问令牌
# 3. 实例化预训练模型
from pyannote.audio import Model
model = Model.from_pretrained("pyannote/brouhaha", 
                              use_auth_token="ACCESS_TOKEN_GOES_HERE")

# 应用模型 
from pyannote.audio import Inference
inference = Inference(model)
output = inference("audio.wav")

# 遍历每一帧
for frame, (vad, snr, c50) in output:
    t = frame.middle
    print(f"{t:8.3f} vad={100*vad:.0f}% snr={snr:.0f} c50={c50:.0f}")

#  ...
# 12.952 vad=100% snr=51 c50=17
# 12.968 vad=100% snr=52 c50=17
# 12.985 vad=100% snr=53 c50=17
# ...

📚 详细文档

引用信息

如果您使用了该模型，请引用以下文献：

@article{lavechin2022brouhaha,
  Title   = {{Brouhaha: multi-task training for voice activity detection, speech-to-noise ratio, and C50 room acoustics estimation}},
  Author  = {Marvin Lavechin and Marianne Métais and Hadrien Titeux and Alodie Boissonnet and Jade Copet and Morgane Rivière and Elika Bergelson and Alejandrina Cristia and Emmanuel Dupoux and Hervé Bredin},
  Year    = {2022},
  Journal = {arXiv preprint arXiv: Arxiv-2210.13248}
}

@inproceedings{Bredin2020,
  Title = {{pyannote.audio: neural building blocks for speaker diarization}},
  Author = {{Bredin}, Hervé and {Yin}, Ruiqing and {Coria}, Juan Manuel and {Gelly}, Gregory and {Korshunov}, Pavel and {Lavechin}, Marvin and {Fustes}, Diego and {Titeux}, Hadrien and {Bouaziz}, Wassim and {Gill}, Marie-Philippe},
  Booktitle = {ICASSP 2020, IEEE International Conference on Acoustics, Speech, and Signal Processing},
  Address = {Barcelona, Spain},
  Month = {May},
  Year = {2020},
}

📄 许可证

该模型使用的许可证为OpenRAIL。

额外信息