Modernbert Large Go Emotions

🚀 クイックスタート

このモデルは、ModernBERT-large を GoEmotions データセットでマルチラベル分類のためにファインチューニングしたものです。テキスト内の感情状態を予測し、合計28のラベルがあります。各入力テキストは1つ以上のラベルを持つことができ、これがマルチラベル分類の特徴です。

こちら で試すことができます。

✨ 主な機能

• 英語のテキストに対する感情分類を行います。
• マルチラベル分類が可能で、各テキストに複数の感情ラベルを付与できます。

📦 インストール

このモデルを使用するには、Hugging Face Transformers ライブラリが必要です。以下のコマンドでインストールできます。

pip install transformers torch

💻 使用例

基本的な使用法

from transformers import pipeline
import torch

# Load the model
classifier = pipeline(
    "text-classification", 
    model="cirimus/modernbert-large-go-emotions",
    top_k=5
)

text = "I am so happy and excited about this opportunity!"
predictions = classifier(text)

# Print top 5 detected emotions
sorted_preds = sorted(predictions[0], key=lambda x: x['score'], reverse=True)
top_5 = sorted_preds[:5]

print("\nTop 5 emotions detected:")
for pred in top_5:
    print(f"\t{pred['label']:10s} : {pred['score']:.3f}")

# Example output:
# Top 5 emotions detected:
#        joy        : 0.784
#        excitement : 0.735
#        admiration : 0.013
#        gratitude  : 0.003
#        amusement  : 0.003

📚 ドキュメント

モデルの詳細

モデルの作成方法

このモデルは、以下のハイパーパラメータを使用して3エポックでファインチューニングされました。

• 学習率: 2e-5
• バッチサイズ: 16
• 重み減衰: 0.01
• オプティマイザ: AdamW
• 評価指標: 精度、再現率、F1スコア（加重平均）、正解率

データセット

GoEmotions データセットは、Redditのコメントから派生したマルチラベル感情分類データセットです。58,000のサンプルと28の感情ラベル（例: 賞賛、喜び、怒りなど）が含まれており、マルチラベル分類のためにアノテーションされています。

評価結果

このモデルは、GoEmotionsデータセットのテストデータで評価されました。予測を二値化するための閾値は 0.5 を使用しました。

標準的な結果:

最適な結果: 各ラベルに対してトレーニングデータセットを基に最適な閾値（F1スコアで調整）を使用し、テストデータセットでテストした結果です。

想定される使用方法

このモデルは、英語のテキストの感情分類を目的として設計されています。特に以下の分野での使用が想定されています。

• ソーシャルメディアのセンチメント分析
• 顧客フィードバックの評価
• 行動または心理学的な研究

制限とバイアス

• データバイアス: このデータセットはRedditのコメントに基づいているため、他のドメインや文化的な文脈には汎化しにくい可能性があります。
• 少数クラス: "悲しみ" や "安心" などの特定のラベルは例が非常に少ないため、これらのクラスに対する性能が低くなる可能性があります。
• 曖昧性: 一部のトレーニングデータにはアノテーションの不一致や曖昧さが含まれており、予測に影響を与える可能性があります。

環境への影響

• 使用ハードウェア: NVIDIA RTX4090
• トレーニング時間: <1時間
• 二酸化炭素排出量: ~0.06 kg CO2（ML CO2 Impact Calculator で計算）

引用

このモデルを使用する場合は、以下のように引用してください。

@inproceedings{JdFE2025c,
  title = {Emotion Classification with ModernBERT},
  author = {Enric Junqu\'e de Fortuny},
  year = {2025},
  howpublished = {\url{https://huggingface.co/cirimus/modernbert-large-go-emotions}},
}

📄 ライセンス

このモデルは MIT ライセンスの下で公開されています。