German Zeroshot

🚀 德语零样本分类模型

本模型是一个零样本分类模型，基于 deepset/gbert-large 在 facebook/xnli 德语数据集上微调而来，可用于德语的零样本分类任务，在评估集上有较好的表现。

🚀 快速开始

本模型是 deepset/gbert-large 在 facebook/xnli 德语数据集上的微调版本。它在评估集上取得了以下结果：

• 损失值：0.4592
• 准确率：0.8486

💻 使用示例

基础用法

# Use a pipeline as a high-level helper
import torch
from transformers import pipeline

pipe = pipeline(
    "zero-shot-classification",
    model="kaixkhazaki/german-zeroshot",
    tokenizer="kaixkhazaki/german-zeroshot",
    device=0 if torch.cuda.is_available() else -1  # Use GPU if available
)

#Enter your text and possible candidates of classification
sequence = "Können Sie mir die Schritte zur Konfiguration eines VPN auf einem Linux-Server erklären?"
candidate_labels = [
    "Technische Dokumentation", 
    "IT-Support", 
    "Netzwerkadministration", 
    "Linux-Konfiguration", 
    "VPN-Setup"
]
pipe(sequence,candidate_labels)
>>
{'sequence': 'Können Sie mir die Schritte zur Konfiguration eines VPN auf einem Linux-Server erklären?',
'labels': ['VPN-Setup', 'Linux-Konfiguration', 'Netzwerkadministration', 'IT-Support', 'Technische Dokumentation'],
'scores': [0.53142249584198, 0.26030370593070984, 0.09126164764165878, 0.06451434642076492, 0.052497804164886475]}


#example 2
sequence = "Wie lautet die Garantiezeit für dieses Produkt?"
candidate_labels = [
    "Garantiebedingungen", 
    "Kundendienst", 
    "Produktdetails", 
    "Reklamation", 
    "Kaufberatung"
]
pipe(sequence,candidate_labels)
>>
{'sequence': 'Wie lautet die Garantiezeit für dieses Produkt?',
'labels': ['Garantiebedingungen', 'Kundendienst', 'Produktdetails', 'Reklamation', 'Kaufberatung'],
'scores': [0.414899080991745, 0.2377401739358902, 0.1381743848323822, 0.12171833217144012, 0.08746808022260666]}

🔧 技术细节

训练超参数

训练过程中使用了以下超参数：

• 学习率：5e-05
• 训练批次大小：64
• 评估批次大小：32
• 随机种子：42
• 优化器：使用 adamw_torch，betas=(0.9, 0.999)，epsilon=1e-08，无额外优化器参数
• 学习率调度器类型：余弦
• 学习率调度器热身步数：500
• 训练轮数：3

训练结果

框架版本

• Transformers 4.48.0.dev0
• Pytorch 2.4.1+cu121
• Datasets 3.1.0
• Tokenizers 0.21.0

📄 许可证

本模型采用 MIT 许可证。