Pyannote Speaker Diarization Endpoint

🚀 说话人分割

本项目依赖于 pyannote.audio 2.0，安装说明请参考 安装指南。

🚀 快速开始

# 从 Huggingface Hub 加载管道
from pyannote.audio import Pipeline
pipeline = Pipeline.from_pretrained("pyannote/speaker-diarization@2022.07")

# 将管道应用于音频文件
diarization = pipeline("audio.wav")

# 使用 RTTM 格式将分割输出保存到磁盘
with open("audio.rttm", "w") as rttm:
    diarization.write_rttm(rttm)

✨ 主要特性

• 支持指定说话人数量进行说话人分割。
• 可设置说话人数量的上下界。
• 可调整管道的超参数以实现不同的分割效果。

💻 使用示例

基础用法

# 从 Huggingface Hub 加载管道
from pyannote.audio import Pipeline
pipeline = Pipeline.from_pretrained("pyannote/speaker-diarization@2022.07")

# 将管道应用于音频文件
diarization = pipeline("audio.wav")

# 使用 RTTM 格式将分割输出保存到磁盘
with open("audio.rttm", "w") as rttm:
    diarization.write_rttm(rttm)

高级用法

指定说话人数量

如果事先知道说话人的数量，可以使用 num_speakers 选项：

diarization = pipeline("audio.wav", num_speakers=2)

指定说话人数量的上下界

也可以使用 min_speakers 和 max_speakers 选项提供说话人数量的下界和/或上界：

diarization = pipeline("audio.wav", min_speakers=2, max_speakers=5)

调整管道超参数

如果想尝试不同的效果，可以调整管道的各种超参数。例如，可以通过增加 segmentation_onset 阈值的值来使用更激进的语音活动检测：

hparams = pipeline.parameters(instantiated=True)
hparams["segmentation_onset"] += 0.1
pipeline.instantiate(hparams)

📚 详细文档

基准测试

实时因子

使用一块 Nvidia Tesla V100 SXM2 GPU（用于神经推理部分）和一块 Intel Cascade Lake 6248 CPU（用于聚类部分）时，实时因子约为 5%。

换句话说，处理一小时的对话大约需要 3 分钟。

准确性

该管道在不断增加的数据集上进行了基准测试。

处理过程完全自动化：

• 无需手动进行语音活动检测（文献中有时会这样做）
• 无需手动指定说话人数量（尽管可以将其提供给管道）
• 无需对内部模型进行微调，也无需为每个数据集调整管道超参数

... 采用最严格的说话人分割错误率（DER）设置（在 本文 中称为 "Full"）：

• 无宽容边界
• 评估重叠语音

支持与反馈

• 商业咨询和科学咨询：请通过 邮箱 联系。
• 技术问题和错误报告：请查看 pyannote.audio 的 Github 仓库，在 讨论区 提出技术问题，在 问题区 报告错误。

引用

@inproceedings{Bredin2021,
  Title = {{End-to-end speaker segmentation for overlap-aware resegmentation}},
  Author = {{Bredin}, Herv{\'e} and {Laurent}, Antoine},
  Booktitle = {Proc. Interspeech 2021},
  Address = {Brno, Czech Republic},
  Month = {August},
  Year = {2021},
}

@inproceedings{Bredin2020,
  Title = {{pyannote.audio: neural building blocks for speaker diarization}},
  Author = {{Bredin}, Herv{\'e} and {Yin}, Ruiqing and {Coria}, Juan Manuel and {Gelly}, Gregory and {Korshunov}, Pavel and {Lavechin}, Marvin and {Fustes}, Diego and {Titeux}, Hadrien and {Bouaziz}, Wassim and {Gill}, Marie-Philippe},
  Booktitle = {ICASSP 2020, IEEE International Conference on Acoustics, Speech, and Signal Processing},
  Address = {Barcelona, Spain},
  Month = {May},
  Year = {2020},
}

📄 许可证

本项目采用 MIT 许可证。