Distil Whisper Large V3 German

🚀 蒸餾版Whisper德語語音識別模型

本模型是基於distil-whisper技術的德語語音識別模型。該模型權重包含7.56億個參數，bfloat16格式下大小為1.51GB。

作為Whisper large v3 german的後續版本，我們決定創建一個蒸餾版本，以在保證最小質量損失的前提下實現更快的推理速度。

🚀 快速開始

代碼示例

import torch
from transformers import AutoModelForSpeechSeq2Seq, AutoProcessor, pipeline
from datasets import load_dataset
device = "cuda:0" if torch.cuda.is_available() else "cpu"
torch_dtype = torch.float16 if torch.cuda.is_available() else torch.float32
model_id = "primeline/distil-whisper-large-v3-german"
model = AutoModelForSpeechSeq2Seq.from_pretrained(
    model_id, torch_dtype=torch_dtype, low_cpu_mem_usage=True, use_safetensors=True
)
model.to(device)
processor = AutoProcessor.from_pretrained(model_id)
pipe = pipeline(
    "automatic-speech-recognition",
    model=model,
    tokenizer=processor.tokenizer,
    feature_extractor=processor.feature_extractor,
    max_new_tokens=128,
    chunk_length_s=30,
    batch_size=16,
    return_timestamps=True,
    torch_dtype=torch_dtype,
    device=device,
)
dataset = load_dataset("distil-whisper/librispeech_long", "clean", split="validation")
sample = dataset[0]["audio"]
result = pipe(sample)
print(result["text"])

✨ 主要特性

• 用途廣泛：該模型旨在用於德語語音識別任務，可作為本地轉錄服務，或作為更大語音識別任務流程的一部分。
• 性能出色：雖然參數僅為大模型的一半，但質量仍然很好，可用於大多數任務。使用tensorrt等優化工具包時，延遲足夠低，可用於即時應用。

📚 詳細文檔

預期用途和限制

該模型旨在用於德語語音識別任務。它可以用作本地轉錄服務，或作為更大語音識別任務流程的一部分。雖然參數僅為大模型的一半，但質量仍然很好，可用於大多數任務。使用tensorrt等優化工具包時，延遲足夠低，可用於即時應用。

數據集

用於訓練的數據集是Common Voice數據集的過濾子集、多語言librispeech和一些內部數據。對數據進行了過濾，並對質量和正確性進行了雙重檢查。我們對文本數據進行了一些規範化處理，特別是大小寫和標點符號。

模型家族

訓練超參數

訓練期間使用了以下超參數：

• 學習率：3e-05
• 總訓練批量大小：512
• 訓練輪數：5.0

框架版本

• Transformers 4.39.3
• Pytorch 2.3.0a0+ebedce2
• Datasets 2.18.0
• Tokenizers 0.15.2

📄 許可證

本模型採用Apache-2.0許可證。

關於我們

您在德國的人工智能基礎設施合作伙伴

體驗強大的人工智能基礎設施，推動您在深度學習、機器學習和高性能計算方面的抱負。

針對人工智能訓練和推理進行了優化。

模型作者：Florian Zimmermeister

免責聲明

本模型並非primeLine集團的產品。

它代表了[Florian Zimmermeister](https://huggingface.co/flozi00)進行的研究，計算能力由primeLine贊助。

該模型由primeLine在此賬戶下發布，但它不是primeLine Solutions GmbH的商業產品。

請注意，儘管我們已盡最大努力測試和開發此模型，但仍可能出現錯誤。

使用此模型需自行承擔風險。我們不承擔此模型產生的任何錯誤輸出的責任。