Bert 43 Multilabel Emotion Detection

🚀 bert-43-多標籤情感檢測模型

本模型旨在解決英文文本情感內容理解和分類的問題，可對英文句子的情感內容進行分類，為情感分析、社交媒體監測等應用提供支持。

🚀 快速開始

你可以按照以下代碼示例快速使用該模型：

from transformers import pipeline

# 加載預訓練模型和分詞器
model = 'borisn70/bert-43-multilabel-emotion-detection'
tokenizer = 'borisn70/bert-43-multilabel-emotion-detection'

# 創建情感分析管道
nlp = pipeline('sentiment-analysis', model=model, tokenizer=tokenizer)

# 用一個句子測試模型
result = nlp("I feel great about this!")

# 打印結果
print(result)

✨ 主要特性

• 基於“bert-base-uncased”進行微調，可將英文句子的情感內容分為43個類別。
• 在多個數據集上進行訓練，包括tweet_emotions、GoEmotions和合成數據。
• 在驗證集上取得了較高的性能指標，如準確率達到92.02%。

📦 安裝指南

文檔未提及具體安裝命令，暫不提供安裝指南。

💻 使用示例

基礎用法

from transformers import pipeline

# 加載預訓練模型和分詞器
model = 'borisn70/bert-43-multilabel-emotion-detection'
tokenizer = 'borisn70/bert-43-multilabel-emotion-detection'

# 創建情感分析管道
nlp = pipeline('sentiment-analysis', model=model, tokenizer=tokenizer)

# 用一個句子測試模型
result = nlp("I feel great about this!")

# 打印結果
print(result)

📚 詳細文檔

模型描述

“bert-43-多標籤情感檢測”模型是“bert-base-uncased”的微調版本，經過訓練，可根據英文句子的情感內容將其分為43個類別之一。該模型在多個數據集的組合上進行訓練，包括tweet_emotions、GoEmotions和合成數據，總計約271,000條記錄，每個標籤約有6,306條記錄。

預期用途

該模型適用於任何需要理解或分類英文文本情感內容的應用，包括情感分析、社交媒體監測、客戶反饋分析等。

訓練數據

訓練數據包括以下數據集：

• Tweet Emotions
• GoEmotions
• 合成數據

訓練過程

該模型在Google Colab V100 GPU（16 GB RAM）上訓練了20個epoch，大約耗時6小時。使用了以下設置：

from transformers import TrainingArguments

training_args = TrainingArguments(
    output_dir='results',        
    optim="adamw_torch",
    learning_rate=2e-5,               # 學習率
    num_train_epochs=20,              # 訓練總輪數
    per_device_train_batch_size=128,  # 訓練時每個設備的批量大小
    per_device_eval_batch_size=128,   # 評估時的批量大小
    warmup_steps=500,                 # 學習率調度器的熱身步數
    weight_decay=0.01,                # 權重衰減強度
    logging_dir='./logs',             # 存儲日誌的目錄
    logging_steps=100,
)

性能

該模型在驗證集上取得了以下性能指標：

• 準確率：92.02%
• 加權F1分數：91.93%
• 加權精確率：91.88%
• 加權召回率：92.02%

同時還提供了43個標籤中每個標籤的詳細性能信息。

標籤映射

準確率報告

侷限性和偏差

⚠️ 重要提示

• 模型在不同情感類別上的性能可能會有顯著差異，尤其是在訓練數據中代表性較少的類別。
• 用戶應謹慎對待訓練數據中可能存在的偏差，這些偏差可能會反映在模型的預測中。

聯繫信息

如果你有任何問題、反饋或想報告模型的任何問題，請隨時聯繫：

• 郵箱：borisn70@gmail.com
• 領英：Boris Atayan

📄 許可證

本模型採用MIT許可證。