Distilbert Finetuned On Emotion

🚀 DistilBERT-finetuned-on-emotion

このモデルは、emotionデータセットで微調整されたdistilbert-base-uncasedのバージョンです。評価セットでは以下の結果を達成しています。

• 損失率: 0.2180
• 正解率: 0.9235
• F1値: 0.9235

📚 ドキュメント

✨ 主な機能

DiestilBERTは感情データセットで微調整されています。モデルの動作を確認するには、以下のリンクをクリックしてください。 https://huggingface.co/spaces/Rahmat82/emotions_classifier

📦 インストール

詳細なインストール手順は提供されていません。

🔧 技術詳細

トレーニングハイパーパラメータ

トレーニング中に使用されたハイパーパラメータは以下の通りです。

• 学習率: 2e-05
• トレーニングバッチサイズ: 64
• 評価バッチサイズ: 64
• シード値: 42
• オプティマイザ: Adam（ベータ=(0.9,0.999)、イプシロン=1e-08）
• 学習率スケジューラのタイプ: 線形
• エポック数: 2

トレーニング結果

フレームワークバージョン

• Transformers 4.35.2
• Pytorch 2.1.0+cu118
• Datasets 2.15.0
• Tokenizers 0.15.0

📄 ライセンス

このモデルはApache-2.0ライセンスの下で提供されています。

その他の情報

モデルのテストに使用できるサンプルテキストは以下の通りです。

• "The gentle touch of your hand on mine is a silent promise that echoes through the corridors of my heart."
• " Walking through the dusty attic, I stumbled upon a hidden door. With a mix of trepidation and excitement, I pushed it open, expecting cobwebs and forgotten junk. Instead, a flood of sunlight revealed a secret garden, blooming with vibrant flowers and buzzing with life. My jaw dropped in pure astonishment."
• "The rain mirrored the tears I couldn't stop, each drop a tiny echo of the ache in my heart. The world seemed muted, colors drained, and a heavy weight settled upon my soul."
• "Staring at your pic, smiling. It feels like I am living this night awake in ur dreams. I went through our chats all of them n each word kissed my heart with gratitude. Suddenly, I felt like I am choking. my eyes welling up .my breath turned warm n deep n I even felt some chill on my skin."