Roberta Large Zeroshot V2.0 C

🚀 roberta-large-zeroshot-v2.0-c

このモデルは、Hugging Faceパイプラインを使用した効率的なゼロショット分類を目的として設計されています。学習データがなくても分類が可能で、GPUとCPUの両方で動作します。

🚀 クイックスタート

このモデルを使用することで、ゼロショット分類タスクを効率的に行うことができます。以下のセクションでは、モデルの詳細、学習データ、使用方法、メトリクスについて説明します。

✨ 主な機能

• ゼロショット分類：学習データがなくても分類が可能です。
• 汎用性：任意の分類タスクを自然言語推論タスクに変換して実行できます。
• 商用利用可能：一部のモデルは完全に商用利用可能なデータで学習されています。

📦 インストール

このモデルを使用するには、transformersライブラリが必要です。以下のコマンドでインストールできます。

#!pip install transformers[sentencepiece]

💻 使用例

基本的な使用法

#!pip install transformers[sentencepiece]
from transformers import pipeline
text = "Angela Merkel is a politician in Germany and leader of the CDU"
hypothesis_template = "This text is about {}"
classes_verbalized = ["politics", "economy", "entertainment", "environment"]
zeroshot_classifier = pipeline("zero-shot-classification", model="MoritzLaurer/deberta-v3-large-zeroshot-v2.0")  # ここでモデル識別子を変更します
output = zeroshot_classifier(text, classes_verbalized, hypothesis_template=hypothesis_template, multi_label=False)
print(output)

multi_label=False を設定すると、モデルは1つのクラスのみを選択します。multi_label=True を設定すると、複数のクラスを選択できます。

📚 ドキュメント

モデルの説明

zeroshot-v2.0シリーズのモデル

このシリーズのモデルは、Hugging Faceパイプラインを使用した効率的なゼロショット分類を目的として設計されています。これらのモデルは学習データがなくても分類が可能で、GPUとCPUの両方で動作します。最新のゼロショット分類器の概要は、Zeroshot Classifier Collection で確認できます。

zeroshot-v2.0 シリーズのモデルの主な更新点は、いくつかのモデルが厳格なライセンス要件を持つユーザー向けに、完全に商用利用可能なデータで学習されていることです。

これらのモデルは、1つの汎用的な分類タスクを実行できます。つまり、与えられたテキストに対して仮説が "true" または "not true" であるかを判断することができます (entailment vs. not_entailment)。このタスク形式は自然言語推論タスク (NLI) に基づいています。このタスクは非常に汎用的で、任意の分類タスクをHugging Faceパイプラインによってこのタスクに変換することができます。

学習データ

名前に "-c" が含まれるモデルは、2種類の完全に商用利用可能なデータで学習されています。

1. Mixtral-8x7B-Instruct-v0.1 を使用して生成された合成データ。まず、Mistral-largeとの会話で25の職種に対する500以上の多様なテキスト分類タスクのリストを作成しました。このデータは手動で精選されました。その後、これをシードデータとして、Mixtral-8x7B-Instruct-v0.1を使用してこれらのタスクに対する数十万のテキストを生成しました。使用された最終的なデータセットは、synthetic_zeroshot_mixtral_v0.1 データセットのサブセット mixtral_written_text_for_tasks_v4 で利用可能です。データの精選は複数回の反復で行われ、将来的な反復で改善されます。
2. 2つの商用利用可能なNLIデータセット: (MNLI, FEVER-NLI)。これらのデータセットは汎化能力を向上させるために追加されました。
3. 名前に "-c" が含まれないモデルは、より広範なライセンスの学習データの混合物も含んでいます: ANLI、WANLI、LingNLI、および このリスト のすべてのデータセットで、used_in_v1.1==True のもの。

🔧 技術詳細

モデルは、f1_macro メトリクスを使用して28の異なるテキスト分類タスクで評価されました。主な参照ポイントは facebook/bart-large-mnli で、これは執筆時点 (2024年4月3日) で最も多く使用されている商用利用可能なゼロショット分類器です。

メトリクス

これらの数値はゼロショット性能を示しており、学習データにはこれらのデータセットのデータは含まれていません。名前に "-c" が含まれないモデルは2回評価されています。1回目はこれらの28のデータセットのデータを一切使用せずに純粋なゼロショット性能をテストしています (表の最初の数値)。

📄 ライセンス

このモデルはMITライセンスの下で提供されています。