Distil Whisper Large V3 German

🚀 蒸馏版Whisper德语语音识别模型

本模型是基于distil-whisper技术的德语语音识别模型。该模型权重包含7.56亿个参数，bfloat16格式下大小为1.51GB。

作为Whisper large v3 german的后续版本，我们决定创建一个蒸馏版本，以在保证最小质量损失的前提下实现更快的推理速度。

🚀 快速开始

代码示例

import torch
from transformers import AutoModelForSpeechSeq2Seq, AutoProcessor, pipeline
from datasets import load_dataset
device = "cuda:0" if torch.cuda.is_available() else "cpu"
torch_dtype = torch.float16 if torch.cuda.is_available() else torch.float32
model_id = "primeline/distil-whisper-large-v3-german"
model = AutoModelForSpeechSeq2Seq.from_pretrained(
    model_id, torch_dtype=torch_dtype, low_cpu_mem_usage=True, use_safetensors=True
)
model.to(device)
processor = AutoProcessor.from_pretrained(model_id)
pipe = pipeline(
    "automatic-speech-recognition",
    model=model,
    tokenizer=processor.tokenizer,
    feature_extractor=processor.feature_extractor,
    max_new_tokens=128,
    chunk_length_s=30,
    batch_size=16,
    return_timestamps=True,
    torch_dtype=torch_dtype,
    device=device,
)
dataset = load_dataset("distil-whisper/librispeech_long", "clean", split="validation")
sample = dataset[0]["audio"]
result = pipe(sample)
print(result["text"])

✨ 主要特性

• 用途广泛：该模型旨在用于德语语音识别任务，可作为本地转录服务，或作为更大语音识别任务流程的一部分。
• 性能出色：虽然参数仅为大模型的一半，但质量仍然很好，可用于大多数任务。使用tensorrt等优化工具包时，延迟足够低，可用于实时应用。

📚 详细文档

预期用途和限制

该模型旨在用于德语语音识别任务。它可以用作本地转录服务，或作为更大语音识别任务流程的一部分。虽然参数仅为大模型的一半，但质量仍然很好，可用于大多数任务。使用tensorrt等优化工具包时，延迟足够低，可用于实时应用。

数据集

用于训练的数据集是Common Voice数据集的过滤子集、多语言librispeech和一些内部数据。对数据进行了过滤，并对质量和正确性进行了双重检查。我们对文本数据进行了一些规范化处理，特别是大小写和标点符号。

模型家族

训练超参数

训练期间使用了以下超参数：

• 学习率：3e-05
• 总训练批量大小：512
• 训练轮数：5.0

框架版本

• Transformers 4.39.3
• Pytorch 2.3.0a0+ebedce2
• Datasets 2.18.0
• Tokenizers 0.15.2

📄 许可证

本模型采用Apache-2.0许可证。

关于我们

您在德国的人工智能基础设施合作伙伴

体验强大的人工智能基础设施，推动您在深度学习、机器学习和高性能计算方面的抱负。

针对人工智能训练和推理进行了优化。

模型作者：Florian Zimmermeister

免责声明

本模型并非primeLine集团的产品。

它代表了[Florian Zimmermeister](https://huggingface.co/flozi00)进行的研究，计算能力由primeLine赞助。

该模型由primeLine在此账户下发布，但它不是primeLine Solutions GmbH的商业产品。

请注意，尽管我们已尽最大努力测试和开发此模型，但仍可能出现错误。

使用此模型需自行承担风险。我们不承担此模型产生的任何错误输出的责任。