Zeroshot Selectra Small

🚀 Zero-shot SELECTRA：基於SELECTRA的零樣本分類器

Zero-shot SELECTRA 是一個基於 SELECTRA模型 在 XNLI數據集 的西班牙語部分上微調得到的模型。你可以將其與Hugging Face的 零樣本分類管道 結合使用，進行 零樣本分類。

與我們之前 基於BETO的零樣本分類器 相比，Zero-shot SELECTRA 更加輕量級。如“指標”部分所示，“小”版本（參數數量少5倍）的性能稍差，而“中”版本（參數數量少3倍） 優於 基於BETO的零樣本分類器。

🚀 快速開始

💻 使用示例

基礎用法

from transformers import pipeline
classifier = pipeline("zero-shot-classification", 
                       model="Recognai/zeroshot_selectra_medium")

classifier(
    "El autor se perfila, a los 50 años de su muerte, como uno de los grandes de su siglo",
    candidate_labels=["cultura", "sociedad", "economia", "salud", "deportes"],
    hypothesis_template="Este ejemplo es {}."
)
"""Output
{'sequence': 'El autor se perfila, a los 50 años de su muerte, como uno de los grandes de su siglo',
 'labels': ['sociedad', 'cultura', 'salud', 'economia', 'deportes'],
 'scores': [0.3711881935596466,
  0.25650349259376526,
  0.17355826497077942,
  0.1641489565372467,
  0.03460107371211052]}
"""

⚠️ 重要提示

hypothesis_template 參數很重要，應該使用西班牙語。在右側的小部件中，此參數設置為默認值："This example is {}.", 因此預期會得到不同的結果。

🔧 技術細節

📊 指標

*使用零樣本學習（ZSL）進行評估

• XNLI：所述準確率是指在 XNLI數據集 的訓練部分微調模型後，測試部分的準確率。
• MLSUM：對於此準確率，我們採用 MLSUM數據集 的測試集，並對5個選定標籤的摘要進行分類。有關詳細信息，請查看我們的 評估筆記本

📚 詳細文檔

訓練

有關所有詳細信息，請查看我們的 訓練筆記本。

📄 許可證

本項目採用Apache-2.0許可證。

👥 作者

• David Fidalgo (GitHub)
• Daniel Vila (GitHub)
• Francisco Aranda (GitHub)
• Javier Lopez (GitHub)