🚀 蒸馏版Whisper德语语音识别模型
本模型是基于distil-whisper技术的德语语音识别模型。该模型权重包含7.56亿个参数,bfloat16格式下大小为1.51GB。
作为Whisper large v3 german的后续版本,我们决定创建一个蒸馏版本,以在保证最小质量损失的前提下实现更快的推理速度。
🚀 快速开始
代码示例
import torch
from transformers import AutoModelForSpeechSeq2Seq, AutoProcessor, pipeline
from datasets import load_dataset
device = "cuda:0" if torch.cuda.is_available() else "cpu"
torch_dtype = torch.float16 if torch.cuda.is_available() else torch.float32
model_id = "primeline/distil-whisper-large-v3-german"
model = AutoModelForSpeechSeq2Seq.from_pretrained(
model_id, torch_dtype=torch_dtype, low_cpu_mem_usage=True, use_safetensors=True
)
model.to(device)
processor = AutoProcessor.from_pretrained(model_id)
pipe = pipeline(
"automatic-speech-recognition",
model=model,
tokenizer=processor.tokenizer,
feature_extractor=processor.feature_extractor,
max_new_tokens=128,
chunk_length_s=30,
batch_size=16,
return_timestamps=True,
torch_dtype=torch_dtype,
device=device,
)
dataset = load_dataset("distil-whisper/librispeech_long", "clean", split="validation")
sample = dataset[0]["audio"]
result = pipe(sample)
print(result["text"])
✨ 主要特性
- 用途广泛:该模型旨在用于德语语音识别任务,可作为本地转录服务,或作为更大语音识别任务流程的一部分。
- 性能出色:虽然参数仅为大模型的一半,但质量仍然很好,可用于大多数任务。使用tensorrt等优化工具包时,延迟足够低,可用于实时应用。
📚 详细文档
预期用途和限制
该模型旨在用于德语语音识别任务。它可以用作本地转录服务,或作为更大语音识别任务流程的一部分。虽然参数仅为大模型的一半,但质量仍然很好,可用于大多数任务。使用tensorrt等优化工具包时,延迟足够低,可用于实时应用。
数据集
用于训练的数据集是Common Voice数据集的过滤子集、多语言librispeech和一些内部数据。对数据进行了过滤,并对质量和正确性进行了双重检查。我们对文本数据进行了一些规范化处理,特别是大小写和标点符号。
模型家族
模型 |
参数数量 |
链接 |
Whisper large v3 german |
15.4亿 |
链接 |
Whisper large v3 turbo german |
8.09亿 |
链接 |
Distil-whisper large v3 german |
7.56亿 |
链接 |
tiny whisper |
3780万 |
链接 |
训练超参数
训练期间使用了以下超参数:
- 学习率:3e-05
- 总训练批量大小:512
- 训练轮数:5.0
框架版本
- Transformers 4.39.3
- Pytorch 2.3.0a0+ebedce2
- Datasets 2.18.0
- Tokenizers 0.15.2
📄 许可证
本模型采用Apache-2.0许可证。
关于我们

您在德国的人工智能基础设施合作伙伴
体验强大的人工智能基础设施,推动您在深度学习、机器学习和高性能计算方面的抱负。
针对人工智能训练和推理进行了优化。
模型作者:Florian Zimmermeister
免责声明
本模型并非primeLine集团的产品。
它代表了[Florian Zimmermeister](https://huggingface.co/flozi00)进行的研究,计算能力由primeLine赞助。
该模型由primeLine在此账户下发布,但它不是primeLine Solutions GmbH的商业产品。
请注意,尽管我们已尽最大努力测试和开发此模型,但仍可能出现错误。
使用此模型需自行承担风险。我们不承担此模型产生的任何错误输出的责任。