Whisper Tiny German 1224

🚀 基於Tiny Whisper架構的德語語音識別模型

本模型卡片介紹了一個基於Tiny Whisper架構的模型，該模型經過訓練，可用於德語語音識別。Whisper是OpenAI開發的強大語音識別平臺。

🚀 快速開始

安裝依賴

確保你已經安裝了必要的庫：

import torch
from transformers import AutoModelForSpeechSeq2Seq, AutoProcessor, pipeline
from datasets import load_dataset

加載模型和處理器

device = "cuda:0" if torch.cuda.is_available() else "cpu"
torch_dtype = torch.float16 if torch.cuda.is_available() else torch.float32
model_id = "primeline/whisper-tiny-german-1224"
model = AutoModelForSpeechSeq2Seq.from_pretrained(
    model_id, torch_dtype=torch_dtype, low_cpu_mem_usage=True, use_safetensors=True
)
model.to(device)
processor = AutoProcessor.from_pretrained(model_id)

創建推理管道

pipe = pipeline(
    "automatic-speech-recognition",
    model=model,
    tokenizer=processor.tokenizer,
    feature_extractor=processor.feature_extractor,
    max_new_tokens=128,
    chunk_length_s=30,
    batch_size=16,
    return_timestamps=True,
    torch_dtype=torch_dtype,
    device=device,
)

加載數據集並進行推理

dataset = load_dataset("distil-whisper/librispeech_long", "clean", split="validation")
sample = dataset[0]["audio"]
result = pipe(sample)
print(result["text"])

✨ 主要特性

• 多領域應用：可用於德語語音轉錄、語音命令和控制、德語視頻自動字幕、德語語音搜索查詢以及文字處理程序中的聽寫功能。
• 架構優勢：基於OpenAI的Whisper架構，具有強大的語音識別能力。

📦 安裝指南

該模型的使用依賴於transformers、torch和datasets等庫，你可以使用以下命令進行安裝：

pip install transformers torch datasets

💻 使用示例

基礎用法

import torch
from transformers import AutoModelForSpeechSeq2Seq, AutoProcessor, pipeline
from datasets import load_dataset
device = "cuda:0" if torch.cuda.is_available() else "cpu"
torch_dtype = torch.float16 if torch.cuda.is_available() else torch.float32
model_id = "primeline/whisper-tiny-german-1224"
model = AutoModelForSpeechSeq2Seq.from_pretrained(
    model_id, torch_dtype=torch_dtype, low_cpu_mem_usage=True, use_safetensors=True
)
model.to(device)
processor = AutoProcessor.from_pretrained(model_id)
pipe = pipeline(
    "automatic-speech-recognition",
    model=model,
    tokenizer=processor.tokenizer,
    feature_extractor=processor.feature_extractor,
    max_new_tokens=128,
    chunk_length_s=30,
    batch_size=16,
    return_timestamps=True,
    torch_dtype=torch_dtype,
    device=device,
)
dataset = load_dataset("distil-whisper/librispeech_long", "clean", split="validation")
sample = dataset[0]["audio"]
result = pipe(sample)
print(result["text"])

📚 詳細文檔

應用領域

該模型可應用於以下領域：

• 德語口語轉錄
• 語音命令和語音控制
• 德語視頻自動字幕
• 德語語音搜索查詢
• 文字處理程序中的聽寫功能

評估 - 詞錯誤率

不同模型大小對應的參數數量如下：

這些結果於2024年12月計算得出，隨著評估語料庫的更新，結果可能會發生變化。如需最新結果，請查看代碼和數據集頁面。評估數據和代碼可在此處獲取。

訓練數據

該模型的訓練數據包含大量來自各種來源的德語口語。數據經過精心挑選和處理，以優化識別性能。數據集大小約為6000小時的公開、專有和合成數據。

訓練過程

模型訓練使用了以下超參數：

• 批量大小：32768
• 訓練輪數：48
• 學習率：1e-4
• 數據增強：無
• 優化器：Ademamix

🔧 技術細節

本模型基於Tiny Whisper架構進行訓練，針對德語語音識別任務進行了優化。在訓練過程中，使用了特定的超參數和優化器，以提高模型的性能和準確性。

📄 許可證

本模型採用Apache-2.0許可證。

關於我們

點擊瞭解更多

我們是德國AI基礎設施的合作伙伴。體驗強大的AI基礎設施，助力你在深度學習、機器學習和高性能計算領域實現目標。該基礎設施針對AI訓練和推理進行了優化。

模型作者：Florian Zimmermeister

免責聲明

本模型並非primeLine集團的產品。它代表了[Florian Zimmermeister](https://huggingface.co/flozi00)進行的研究，計算資源由primeLine贊助。該模型由primeLine在此賬戶下發布，但並非primeLine Solutions GmbH的商業產品。

請注意，儘管我們已盡最大努力測試和開發此模型，但仍可能出現錯誤。使用此模型需自行承擔風險。我們不承擔此模型產生的任何錯誤輸出的責任。