Bertin Roberta Base Zeroshot Esnli

🚀 bertin-roberta-base-spanishをベースとしたゼロショット分類器

このモデルは、bertin-roberta-base-spanish モデルをベースに、NLIタスク用の Cross encoder を使用して学習されました。CrossEncoderは文のペアを入力としてラベルを出力するため、「矛盾」: 0、「含意」: 1、「中立」: 2 のラベルを予測するように学習します。

このモデルはHugging Faceのゼロショットパイプラインを使って、ゼロショット分類 を行うことができます。文と任意のラベル/トピックのセットを与えると、その文が各トピックに属する可能性を出力します。

🚀 クイックスタート

💻 使用例

基本的な使用法

モデルを使用する最も簡単な方法は、Hugging FaceのTransformersパイプラインツールを使うことです。タスクを "zero-shot-classification" と指定してパイプラインを初期化し、モデルとして "hackathon-pln-es/bertin-roberta-base-zeroshot-esnli" を選択します。

from transformers import pipeline
classifier = pipeline("zero-shot-classification", 
                       model="hackathon-pln-es/bertin-roberta-base-zeroshot-esnli")

classifier(
    "El autor se perfila, a los 50 años de su muerte, como uno de los grandes de su siglo",
    candidate_labels=["cultura", "sociedad", "economia", "salud", "deportes"],
    hypothesis_template="Esta oración es sobre {}."
)

hypothesis_template パラメータは重要で、スペイン語で指定する必要があります。右側のウィジェットでは、このパラメータはデフォルト値 "This example is {}. "に設定されているため、異なる結果が期待されます。

🔧 技術詳細

学習

このモデルの学習には sentence-transformers を使用しました。

データセット

自然言語推論のデータセットのコレクションを学習データとして使用しました。

• ESXNLI、スペイン語部分のみ
• SNLI、自動翻訳版
• MultiNLI、自動翻訳版

使用したデータセット全体は こちら で入手できます。

📚 詳細ドキュメント

作成者

• Anibal Pérez
• Emilio Tomás Ariza
• Lautaro Gesuelli Pinto
• Mauricio Mazuecos