Zeroshot Selectra Medium

🚀 Zero-shot SELECTRA: SELECTRAベースのゼロショット分類器

Zero-shot SELECTRA は、XNLIデータセットのスペイン語部分でファインチューニングされたSELECTRAモデルです。Hugging Faceのゼロショットパイプラインを使用して、ゼロショット分類を行うことができます。

以前のBETOベースのゼロショット分類器と比較すると、zero-shot SELECTRAははるかに軽量です。「Metrics」セクションに示されているように、small バージョン（パラメータが5分の1）は性能がやや劣りますが、medium バージョン（パラメータが3分の1）はBETOベースのゼロショット分類器を上回っています。

🚀 クイックスタート

💻 使用例

基本的な使用法

from transformers import pipeline
classifier = pipeline("zero-shot-classification", 
                       model="Recognai/zeroshot_selectra_medium")

classifier(
    "El autor se perfila, a los 50 años de su muerte, como uno de los grandes de su siglo",
    candidate_labels=["cultura", "sociedad", "economia", "salud", "deportes"],
    hypothesis_template="Este ejemplo es {}."
)
"""Output
{'sequence': 'El autor se perfila, a los 50 años de su muerte, como uno de los grandes de su siglo',
 'labels': ['sociedad', 'cultura', 'economia', 'salud', 'deportes'],
 'scores': [0.6450043320655823,
  0.16710571944713593,
  0.08507631719112396,
  0.0759836807847023,
  0.026829993352293968]}
"""

hypothesis_template パラメータは重要で、スペイン語で指定する必要があります。右側のウィジェットでは、このパラメータはデフォルト値の "This example is {}." に設定されているため、異なる結果が得られることが予想されます。

📚 ドキュメント

デモとチュートリアル

このモデルの動作を確認したい場合は、Rubrix（NLPのデータを探索、アノテーション、モニタリングするための無料でオープンソースのツール）を使用した基本的なチュートリアルを作成しています。

このチュートリアルでは、この分類器をスペイン語のニュース分類に使用して評価する方法と、教師あり分類器をトレーニングするためのトレーニングセットを構築する方法を紹介しています（より正確な結果を得たい場合や、時間の経過とともにモデルを改善したい場合に役立つかもしれません）。

こちらでチュートリアルを見ることができます。

以下のビデオでは、アノテーションプロセス内での予測を示しています（ほとんどの例で予測がほぼ正しいことに注意してください）。

指標

*ゼロショット学習（ZSL）で評価

• XNLI：記載されている正解率は、XNLIデータセットのトレーニング部分でモデルをファインチューニングした後のテスト部分に関するものです。
• MLSUM：この正解率は、MLSUMデータセットのテストセットを使用し、選択された5つのラベルの要約を分類した結果です。詳細については、評価ノートブックを確認してください。

トレーニング

詳細については、トレーニングノートブックを確認してください。

作成者

• David Fidalgo (GitHub)
• Daniel Vila (GitHub)
• Francisco Aranda (GitHub)
• Javier Lopez (GitHub)

📄 ライセンス

このプロジェクトは、Apache-2.0ライセンスの下で公開されています。