Whisper Large V3 Turbo German Ct2

🚀 德語語音識別模型 - whisper-large-v3-turbo-german

本模型基於 Whisper Large v3 進行微調，專門用於德語語音識別。Whisper 是 OpenAI 開發的強大語音識別平臺，此模型針對德語語音處理和識別進行了特別優化。

🚀 快速開始

此模型是一個 CTranslate2 轉換版本，適用於符合 CTranslate 的框架，如 faster-whisper。若對微調方法或使用的數據集有任何疑問，請參考原始倉庫 primeline/whisper-large-v3-turbo-german。

✨ 主要特性

概述

該模型基於 Whisper Large v3，針對德語語音識別進行了微調。Whisper 是 OpenAI 開發的強大語音識別平臺，此模型專門針對德語語音的處理和識別進行了優化。

應用場景

該模型可應用於多個領域，包括：

• 德語口語轉錄
• 語音命令和語音控制
• 德語視頻自動字幕
• 德語語音搜索查詢
• 文字處理程序中的語音聽寫功能

📚 詳細文檔

模型家族

評估 - 詞錯誤率 (WER)

評估數據和代碼可在 此處 獲取。

訓練數據

該模型的訓練數據包含大量來自不同來源的德語口語。數據經過精心挑選和處理，以優化識別性能。

訓練過程

模型訓練使用了以下超參數：

• 批量大小：12288
• 訓練輪數：3
• 學習率：1e-6
• 數據增強：無
• 優化器：Ademamix

💻 使用示例

基礎用法

import torch
from transformers import AutoModelForSpeechSeq2Seq, AutoProcessor, pipeline
from datasets import load_dataset
device = "cuda:0" if torch.cuda.is_available() else "cpu"
torch_dtype = torch.float16 if torch.cuda.is_available() else torch.float32
model_id = "primeline/whisper-large-v3-turbo-german"
model = AutoModelForSpeechSeq2Seq.from_pretrained(
    model_id, torch_dtype=torch_dtype, low_cpu_mem_usage=True, use_safetensors=True
)
model.to(device)
processor = AutoProcessor.from_pretrained(model_id)
pipe = pipeline(
    "automatic-speech-recognition",
    model=model,
    tokenizer=processor.tokenizer,
    feature_extractor=processor.feature_extractor,
    max_new_tokens=128,
    chunk_length_s=30,
    batch_size=16,
    return_timestamps=True,
    torch_dtype=torch_dtype,
    device=device,
)
dataset = load_dataset("distil-whisper/librispeech_long", "clean", split="validation")
sample = dataset[0]["audio"]
result = pipe(sample)
print(result["text"])

📄 許可證

本模型採用 Apache-2.0 許可證。

關於我們

我們是德國人工智能基礎設施的合作伙伴。體驗強大的人工智能基礎設施，助力您在深度學習、機器學習和高性能計算領域實現目標。該基礎設施針對人工智能訓練和推理進行了優化。

模型作者：Florian Zimmermeister