Whisper Tiny German 1224

🚀 基于Tiny Whisper架构的德语语音识别模型

本模型卡片介绍了一个基于Tiny Whisper架构的模型，该模型经过训练，可用于德语语音识别。Whisper是OpenAI开发的强大语音识别平台。

🚀 快速开始

安装依赖

确保你已经安装了必要的库：

import torch
from transformers import AutoModelForSpeechSeq2Seq, AutoProcessor, pipeline
from datasets import load_dataset

加载模型和处理器

device = "cuda:0" if torch.cuda.is_available() else "cpu"
torch_dtype = torch.float16 if torch.cuda.is_available() else torch.float32
model_id = "primeline/whisper-tiny-german-1224"
model = AutoModelForSpeechSeq2Seq.from_pretrained(
    model_id, torch_dtype=torch_dtype, low_cpu_mem_usage=True, use_safetensors=True
)
model.to(device)
processor = AutoProcessor.from_pretrained(model_id)

创建推理管道

pipe = pipeline(
    "automatic-speech-recognition",
    model=model,
    tokenizer=processor.tokenizer,
    feature_extractor=processor.feature_extractor,
    max_new_tokens=128,
    chunk_length_s=30,
    batch_size=16,
    return_timestamps=True,
    torch_dtype=torch_dtype,
    device=device,
)

加载数据集并进行推理

dataset = load_dataset("distil-whisper/librispeech_long", "clean", split="validation")
sample = dataset[0]["audio"]
result = pipe(sample)
print(result["text"])

✨ 主要特性

• 多领域应用：可用于德语语音转录、语音命令和控制、德语视频自动字幕、德语语音搜索查询以及文字处理程序中的听写功能。
• 架构优势：基于OpenAI的Whisper架构，具有强大的语音识别能力。

📦 安装指南

该模型的使用依赖于transformers、torch和datasets等库，你可以使用以下命令进行安装：

pip install transformers torch datasets

💻 使用示例

基础用法

import torch
from transformers import AutoModelForSpeechSeq2Seq, AutoProcessor, pipeline
from datasets import load_dataset
device = "cuda:0" if torch.cuda.is_available() else "cpu"
torch_dtype = torch.float16 if torch.cuda.is_available() else torch.float32
model_id = "primeline/whisper-tiny-german-1224"
model = AutoModelForSpeechSeq2Seq.from_pretrained(
    model_id, torch_dtype=torch_dtype, low_cpu_mem_usage=True, use_safetensors=True
)
model.to(device)
processor = AutoProcessor.from_pretrained(model_id)
pipe = pipeline(
    "automatic-speech-recognition",
    model=model,
    tokenizer=processor.tokenizer,
    feature_extractor=processor.feature_extractor,
    max_new_tokens=128,
    chunk_length_s=30,
    batch_size=16,
    return_timestamps=True,
    torch_dtype=torch_dtype,
    device=device,
)
dataset = load_dataset("distil-whisper/librispeech_long", "clean", split="validation")
sample = dataset[0]["audio"]
result = pipe(sample)
print(result["text"])

📚 详细文档

应用领域

该模型可应用于以下领域：

• 德语口语转录
• 语音命令和语音控制
• 德语视频自动字幕
• 德语语音搜索查询
• 文字处理程序中的听写功能

评估 - 词错误率

不同模型大小对应的参数数量如下：

这些结果于2024年12月计算得出，随着评估语料库的更新，结果可能会发生变化。如需最新结果，请查看代码和数据集页面。评估数据和代码可在此处获取。

训练数据

该模型的训练数据包含大量来自各种来源的德语口语。数据经过精心挑选和处理，以优化识别性能。数据集大小约为6000小时的公开、专有和合成数据。

训练过程

模型训练使用了以下超参数：

• 批量大小：32768
• 训练轮数：48
• 学习率：1e-4
• 数据增强：无
• 优化器：Ademamix

🔧 技术细节

本模型基于Tiny Whisper架构进行训练，针对德语语音识别任务进行了优化。在训练过程中，使用了特定的超参数和优化器，以提高模型的性能和准确性。

📄 许可证

本模型采用Apache-2.0许可证。

关于我们

点击了解更多

我们是德国AI基础设施的合作伙伴。体验强大的AI基础设施，助力你在深度学习、机器学习和高性能计算领域实现目标。该基础设施针对AI训练和推理进行了优化。

模型作者：Florian Zimmermeister

免责声明

本模型并非primeLine集团的产品。它代表了[Florian Zimmermeister](https://huggingface.co/flozi00)进行的研究，计算资源由primeLine赞助。该模型由primeLine在此账户下发布，但并非primeLine Solutions GmbH的商业产品。

请注意，尽管我们已尽最大努力测试和开发此模型，但仍可能出现错误。使用此模型需自行承担风险。我们不承担此模型产生的任何错误输出的责任。