Deberta Base Long Nli

🚀 Deberta-v3-base零樣本分類模型

本模型基於deberta-v3-base，在tasksource上進行了25萬步的微調，在許多任務上展現出了強大的零樣本驗證性能。可用於零樣本基於蘊含關係的分類、自然語言推理以及在新任務或任務源任務上的進一步微調。

✨ 主要特性

• 多任務微調：基於deberta-v3-base，在眾多數據集上進行了微調，包括長文本自然語言推理任務、邏輯推理任務、事實驗證任務等。
• 強大的零樣本性能：在許多任務上有出色的零樣本驗證表現，如在WNLI上達到70%的準確率。
• 多種應用場景：可用於零樣本分類、自然語言推理、進一步微調等。

📦 安裝指南

使用本模型前，你需要安裝transformers和tasknet庫：

pip install transformers tasknet

💻 使用示例

基礎用法

[ZS] 零樣本分類管道

from transformers import pipeline
classifier = pipeline("zero-shot-classification",model="tasksource/deberta-base-long-nli")

text = "one day I will see the world"
candidate_labels = ['travel', 'cooking', 'dancing']
classifier(text, candidate_labels)

此模型的自然語言推理訓練數據包含label-nli，這是一個專門為提升此類零樣本分類性能而構建的自然語言推理數據集。

[NLI] 自然語言推理管道

from transformers import pipeline
pipe = pipeline("text-classification",model="tasksource/deberta-base-long-nli")
pipe([dict(text='there is a cat',
  text_pair='there is a black cat')]) #list of (premise,hypothesis)
# [{'label': 'neutral', 'score': 0.9952911138534546}]

高級用法

[TA] 任務源適配器：一鍵訪問數百個任務

# !pip install tasknet
import tasknet as tn
pipe = tn.load_pipeline('tasksource/deberta-base-long-nli','glue/sst2') # works for 500+ tasksource tasks
pipe(['That movie was great !', 'Awful movie.'])
# [{'label': 'positive', 'score': 0.9956}, {'label': 'negative', 'score': 0.9967}]

任務列表可在模型的config.json文件中查看。這種方式比零樣本分類更高效，因為每個示例只需要一次前向傳播，但靈活性較差。

[FT] 任務網絡：三行代碼實現微調

# !pip install tasknet
import tasknet as tn
hparams=dict(model_name='tasksource/deberta-base-long-nli', learning_rate=2e-5)
model, trainer = tn.Model_Trainer([tn.AutoTask("glue/rte")], hparams)
trainer.train()

📚 詳細文檔

模型信息

模型性能

零樣本GPT - 4在FOLIO（邏輯推理）上得分為61%，在cladder（概率推理）上得分為62%，在ConTRoL（長文本自然語言推理）上得分為56.4%。

📄 許可證

本模型使用apache-2.0許可證。

📖 引用

更多詳細信息請參考文章：

@inproceedings{sileo-2024-tasksource,
    title = "tasksource: A Large Collection of {NLP} tasks with a Structured Dataset Preprocessing Framework",
    author = "Sileo, Damien",
    editor = "Calzolari, Nicoletta  and
      Kan, Min-Yen  and
      Hoste, Veronique  and
      Lenci, Alessandro  and
      Sakti, Sakriani  and
      Xue, Nianwen",
    booktitle = "Proceedings of the 2024 Joint International Conference on Computational Linguistics, Language Resources and Evaluation (LREC-COLING 2024)",
    month = may,
    year = "2024",
    address = "Torino, Italia",
    publisher = "ELRA and ICCL",
    url = "https://aclanthology.org/2024.lrec-main.1361",
    pages = "15655--15684",
}