Distilbert Base Uncased Agnews Student

🚀 distilbert-base-uncased-agnews-student

該模型是用於文本分類的模型，它基於AG新聞數據集進行蒸餾訓練，能為文本分類任務提供高效的解決方案。

🚀 快速開始

該模型可像其他在AG新聞數據集上訓練的模型一樣使用，但性能可能不如完全監督訓練的模型。它主要用於展示如何將昂貴的基於自然語言推理（NLI）的零樣本模型蒸餾為更高效的學生模型。

✨ 主要特性

• 該模型是從無標籤的AG新聞數據集上的零樣本分類管道中蒸餾得到的，使用了此腳本。
• 它是此演示筆記本的成果，在該筆記本中可以找到關於該模型的更多詳細信息。
• 教師模型為 roberta-large-mnli。
• 教師假設模板為 "This text is about {}."。

📄 許可證

本項目採用MIT許可證。