Gbert Large Zeroshot Nli

🚀 SVALabs - Gbert Large Zeroshot Nli

このリポジトリでは、ドイツ語のゼロショット分類モデルを公開しています。このモデルは、自然言語推論に特化しており、ドイツ語の文章を高精度に分類することができます。

🚀 クイックスタート

このモデルは、deepset.ai のドイツ語BERT largeモデルをベースに、mnli、anli、snli の各データセットに含まれる847,862の機械翻訳されたNLI文ペアを使用してファインチューニングされました。この目的のために、これらのデータセット内の文ペアをドイツ語に翻訳しました。

ドイツ語を話す方は、このモデルとゼロショット分類に関するブログ記事もご覧いただけます。

✨ 主な機能

モデルの詳細

パフォーマンス

xnli データセットのドイツ語部分のテストセットを使用して、NLIタスクに対するモデルを評価しました。

XNLIテストセットの正解率: 85.6%

ゼロショットテキスト分類タスクのベンチマーク

10kGNADデータセット の一部を使用して、ゼロショットテキスト分類タスクに対するモデルをさらにテストしました。具体的には、"Kultur"、"Sport"、"Web"、"Wirtschaft"、"Wissenschaft" とラベル付けされたすべての記事を使用しました。

次の表は、結果と、同じタスクを実行する他のドイツ語および多言語のゼロショットオプションとの比較を示しています。

💻 使用例

基本的な使用法

from transformers import pipeline

zershot_pipeline = pipeline("zero-shot-classification",
                             model="svalabs/gbert-large-zeroshot-nli")

sequence = "Ich habe ein Problem mit meinem Iphone das so schnell wie möglich gelöst werden muss" 
labels = ["Computer", "Handy", "Tablet", "dringend", "nicht dringend"] 
hypothesis_template = "In diesem Satz geht es um das Thema {}."    

zershot_pipeline(sequence, labels, hypothesis_template=hypothesis_template)

モデルを使用する最も簡単な方法は、Hugging FaceのTransformersパイプラインツールを使用することです。パイプラインを初期化する際に、タスクを "zero-shot-classification" と指定し、モデルとして "svalabs/gbert-large-zeroshot-nli" を選択します。

モデルは、ラベル、分類するシーケンス（またはシーケンスのリスト）、および仮説テンプレートを指定する必要があります。テストでは、ラベルが単語のみで構成されている場合、"In diesem Satz geht es um das Thema {}" が最も良い結果を示しました。ただし、複数の単語、特に名詞と動詞が組み合わされている場合、"Weil {}" や "Daher {}" のような単純な仮説の方がうまく機能することがあります。

📚 ドキュメント

お問い合わせ

• Nicole Wochatz, nicole.wochatz@sva.de
• Stefan Kammer, stefan.kammer@sva.de