Bert 43 Multilabel Emotion Detection

🚀 bert-43-multilabel-emotion-detection

このモデルは、英文の文章を感情内容に基づいて43のカテゴリに分類するために訓練された、"bert-base-uncased"のファインチューニング版です。

🚀 クイックスタート

このモデルは、英文テキストの感情内容を理解または分類する必要があるアプリケーションに使用できます。具体的には、センチメント分析、ソーシャルメディアモニタリング、顧客フィードバック分析などが挙げられます。

✨ 主な機能

• 英文の文章を感情内容に基づいて43のカテゴリに分類する。
• センチメント分析、ソーシャルメディアモニタリング、顧客フィードバック分析などのアプリケーションに使用できる。

📦 インストール

このモデルを使用するには、transformersライブラリが必要です。以下のコマンドでインストールできます。

pip install transformers

💻 使用例

基本的な使用法

from transformers import pipeline

# Load the pre-trained model and tokenizer
model = 'borisn70/bert-43-multilabel-emotion-detection'
tokenizer = 'borisn70/bert-43-multilabel-emotion-detection'

# Create a pipeline for sentiment analysis
nlp = pipeline('sentiment-analysis', model=model, tokenizer=tokenizer)

# Test the model with a sentence
result = nlp("I feel great about this!")

# Print the result
print(result)

📚 ドキュメント

モデルの説明

このモデル "bert-43-multilabel-emotion-detection" は、"bert-base-uncased" のファインチューニング版で、英文の文章を感情内容に基づいて43のカテゴリに分類するように訓練されています。モデルは、tweet_emotions、GoEmotions、および合成データを含むデータセットの組み合わせで訓練され、ラベルごとに約6,306件のレコードを含む約271,000件のレコードが使用されました。

訓練データ

訓練データは以下のデータセットで構成されています。

• Tweet Emotions
• GoEmotions
• 合成データ

訓練手順

モデルは20エポックにわたって訓練され、16GBのRAMを備えたGoogle Colab V100 GPUで約6時間かかりました。

以下の設定が使用されました。

from transformers import TrainingArguments

training_args = TrainingArguments(
    output_dir='results',        
    optim="adamw_torch",
    learning_rate=2e-5,               # learning rate
    num_train_epochs=20,              # total number of training epochs
    per_device_train_batch_size=128,  # batch size per device during training
    per_device_eval_batch_size=128,   # batch size for evaluation
    warmup_steps=500,                 # number of warmup steps for learning rate scheduler
    weight_decay=0.01,                # strength of weight decay
    logging_dir='./logs',             # directory for storing logs
    logging_steps=100,
)

性能

モデルは、検証セットで以下の性能指標を達成しました。

• 正解率: 92.02%
• 重み付きF1スコア: 91.93%
• 重み付き精度: 91.88%
• 重み付き再現率: 92.02%

43のラベルそれぞれの性能詳細もあります。

ラベルマッピング

正解率レポート

🔧 技術詳細

• モデルの性能は、訓練データでの表現が少ない感情カテゴリを含む、異なる感情カテゴリ間で大きく異なる可能性があります。
• ユーザーは、訓練データに潜在的なバイアスがある可能性に注意する必要があり、これがモデルの予測に反映される可能性があります。

📄 ライセンス

このモデルはMITライセンスの下で提供されています。

連絡先

モデルに関する質問、フィードバック、または問題を報告したい場合は、お気軽にご連絡ください。

• メール: borisn70@gmail.com
• LinkedIn: Boris Atayan