Bart MNLI CNN News

🚀 Huggingface模型：BART - MNLI零樣本文本分類

這是一個基於Huggingface的模型，使用BART - MNLI在CNN新聞數據集上進行微調，用於零樣本文本分類任務。該模型在最大長度為128個標記的CNN測試數據集上，F1分數和準確率均達到了94%。

🚀 快速開始

此模型可用於新聞文章的零樣本文本分類任務。可以通過Huggingface Transformers庫，使用以下代碼訪問該模型：

from transformers import pipeline, AutoTokenizer, AutoModelForSequenceClassification

tokenizer = AutoTokenizer.from_pretrained("AyoubChLin/Bart-MNLI-CNN_news")

model = AutoModelForSequenceClassification.from_pretrained("AyoubChLin/Bart-MNLI-CNN_news")
classifier = pipeline(
    "zero-shot-classification",
    model=model,
    tokenizer=tokenizer,
    device=0
)

✨ 主要特性

• 基於BART - MNLI架構，專為零樣本文本分類任務設計。
• 在CNN新聞數據集上進行微調，具有較高的F1分數和準確率。

📦 安裝指南

暫未提及具體安裝步驟，可參考Huggingface Transformers庫的安裝說明。

📚 詳細文檔

作者

此工作由CHERGUELAINE Ayoub和BOUBEKRI Faycal完成。

原始模型

facebook/bart-large-mnli

模型架構

BART - Large - MNLI模型有12個Transformer層，隱藏層大小為1024，包含4億零600萬個參數。它在英文維基百科和BookCorpus數據集上進行預訓練，並在多類型自然語言推理（MNLI）任務上進行微調。

數據集

使用CNN新聞數據集對模型進行微調。該數據集包含來自CNN網站的新聞文章，並被標記為6個類別，包括政治、健康、娛樂、科技、旅遊、世界和體育。

微調參數

模型在最大長度為256個標記的情況下進行了1個輪次的微調，訓練大約耗時6小時。

評估指標

該模型在最大長度為128個標記的CNN測試數據集上，F1分數和準確率均達到了94%。

致謝

我們要感謝Huggingface團隊對Transformer模型的開源實現，以及CNN新聞數據集為微調提供了帶標籤的數據集。

📄 許可證

本項目採用Apache - 2.0許可證。