Turkish Zeroshot Large

🚀 turkish-zeroshot-large

このモデルは、dbmdz/bert-base-turkish-128k-uncased を facebook/xnli tr データセットでファインチューニングしたものです。評価セットでは以下の結果を達成しています。

• 損失: 0.6957
• 正解率: 0.7622
• F1: 0.7621
• 適合率: 0.7702
• 再現率: 0.7622

🚀 クイックスタート

このセクションでは、モデルの基本的な使い方を説明します。

💻 使用例

基本的な使用法

# Use a pipeline as a high-level helper

pipe = pipeline(
    "zero-shot-classification",
    model="kaixkhazaki/turkish-zeroshot-large",
    tokenizer="kaixkhazaki/turkish-zeroshot-large",
    device=0 if torch.cuda.is_available() else -1  # Use GPU if available
)

#Enter your text and possible candidates of classification
sequence = "Bu laptopun pil ömrü ne kadar dayanıyor?"
candidate_labels = ["ürün özellikleri", "soru", "bilgi talebi", "laptop", "teknik destek"]

pipe(
    sequence,
    candidate_labels,
)

>>
{'sequence': 'Bu laptopun pil ömrü ne kadar dayanıyor?',
'labels': ['ürün özellikleri', 'laptop', 'soru', 'bilgi talebi', 'teknik destek'],
'scores': [0.31062474846839905, 0.2971721291542053, 0.1954265981912613, 0.13260306417942047, 0.06417346745729446]}

🔧 技術詳細

トレーニングのハイパーパラメータ

トレーニング中に使用されたハイパーパラメータは以下の通りです。

• 学習率: 5e-05
• トレーニングバッチサイズ: 64
• 評価バッチサイズ: 32
• シード: 42
• オプティマイザ: betas=(0.9,0.999)、epsilon=1e-08 の adamw_torch を使用。追加のオプティマイザ引数はありません。
• 学習率スケジューラの種類: cosine
• 学習率スケジューラのウォームアップステップ: 500
• エポック数: 5

トレーニング結果

フレームワークのバージョン

• Transformers 4.48.0.dev0
• Pytorch 2.4.1+cu121
• Datasets 3.1.0
• Tokenizers 0.21.0

📄 ライセンス

このモデルは MIT ライセンスの下で提供されています。