Bert Base Uncased Goemotions Original Finetuned

🚀 GoEmotionsテキスト分類モデル

このプロジェクトは、事前学習モデルを基にしてテキスト分類モデルを構築し、GoEmotionsデータセットを処理するために使用されます。テキスト内の感情カテゴリを効果的に識別することができます。

🚀 クイックスタート

詳細な使用方法とコード例については、プロジェクトの GitHub リポジトリを参照してください。

✨ 主な機能

1. 大文字小文字を区別しないBERT事前学習モデルをベースに、線形出力層を追加しています。
2. トークナイザの特殊トークンリストに、いくつかの一般的な絵文字とトークンを追加しています。
3. 学習過程でラベル平滑化処理を行っています。
4. 重み付き損失とフォーカス損失を使用して、学習効果が悪い状況を改善しています。

📚 ドキュメント

結果

Macro F1 の最高結果は 53% です。

チュートリアルリンク

• GitHub

📄 ライセンス

このプロジェクトは MIT ライセンスを採用しています。