Distilbert Base Uncased Go Emotions Onnx

🚀 distilbert-base-uncased-go-emotions-student

該項目將 joeddav/distilbert-base-uncased-go-emotions-student 模型轉換為ONNX格式，並使用Optimum進行量化。此模型可用於情感分類任務，為零樣本分類模型的蒸餾提供了示例。

🚀 快速開始

項目已將 joeddav/distilbert-base-uncased-go-emotions-student 轉換為ONNX格式並進行了量化，可直接使用轉換後的模型進行後續任務。

📚 詳細文檔

模型描述

該模型是使用 此腳本，在未標記的GoEmotions數據集上通過零樣本分類管道進行蒸餾得到的。它使用混合精度訓練了10個epoch，其他方面使用了腳本的默認參數。

預期用途

該模型的使用方式與在GoEmotions數據集上訓練的其他模型類似，但性能可能不如經過完全監督訓練的模型。它主要用於展示如何將基於NLI的昂貴零樣本模型蒸餾為更高效的學生模型，從而僅使用未標記數據訓練分類器。需要注意的是，儘管GoEmotions數據集允許每個實例有多個標籤，但教師模型使用單標籤分類來創建偽標籤。

📄 許可證

本項目採用MIT許可證。