Deberta V3 Base Finetuned Finance Text Classification

🚀 deberta-v3-base-finetuned-finance-text-classification

このモデルは、sentence_50Agreeのfinancial - phrasebank + Kaggleデータセットで微調整されたmicrosoft/deberta-v3-baseのバージョンです。このデータセットは、感情（ネガティブ、中立、ポジティブ）で分類された4840件の金融ニュースから構成されています。KaggleデータセットにはCovid - 19の感情データが含まれており、sentiment - classification - selflabel - datasetで見つけることができます。

評価セットでは以下の結果を達成しています：

• 損失: 0.7687
• 正解率: 0.8913
• F1値: 0.8912
• 適合率: 0.8927
• 再現率: 0.8913

📚 ドキュメント

モデルの説明

詳細情報は後日提供予定です。

想定される用途と制限

詳細情報は後日提供予定です。

学習と評価データ

詳細情報は後日提供予定です。

学習手順

学習ハイパーパラメータ

学習中に以下のハイパーパラメータが使用されました：

• 学習率: 2e - 05
• 学習バッチサイズ: 16
• 評価バッチサイズ: 16
• シード: 42
• オプティマイザ: Adam（ベータ=(0.9, 0.999)、イプシロン=1e - 08）
• 学習率スケジューラの種類: 線形
• エポック数: 15
• 混合精度学習: Native AMP

学習結果

フレームワークのバージョン

• Transformers 4.19.2
• Pytorch 1.11.0+cu113
• Datasets 2.2.2
• Tokenizers 0.12.1

📄 ライセンス

このモデルはMITライセンスの下で提供されています。