Fine Tuned Cardiffnlp Twitter Roberta Base Sentiment Finance Dataset

🚀 ファインチューニング済みカーディフNLPツイッターロベルタベースセンチメント金融データセット

このモデルは、cardiffnlp/twitter-roberta-base-sentiment をツイッターの金融ニュースセンチメントデータセットでファインチューニングしたバージョンです。評価セットでは以下の結果を達成しています。

• 損失: 0.3123
• 正解率: 0.8559

推論APIの10の例は、2024年5月初旬に https://twitter.com/ftfinancenews から収集されました。

ファインチューニング用のColabノートブック: https://colab.research.google.com/drive/1gvpFbazlxg3AdSldH3w6TYjGUByxqCrh?usp=sharing

📚 ドキュメント

学習データ

https://huggingface.co/datasets/CJCJ3030/twitter-financial-news-sentiment/viewer/default/train

評価データ

https://huggingface.co/datasets/CJCJ3030/twitter-financial-news-sentiment/viewer/default/validation

学習ハイパーパラメータ

学習中に使用されたハイパーパラメータは以下の通りです。

• 学習率: 5e-05
• 学習バッチサイズ: 120
• 評価バッチサイズ: 120
• シード: 42
• オプティマイザ: Adam (betas=(0.9,0.999), epsilon=1e-08)
• 学習率スケジューラタイプ: 線形
• エポック数: 5

学習結果

フレームワークバージョン

• Transformers 4.40.2
• Pytorch 2.2.1+cu121
• Datasets 2.19.1
• Tokenizers 0.19.1

📄 ライセンス

@inproceedings{barbieri-etal-2020-tweeteval,
    title = "{T}weet{E}val: Unified Benchmark and Comparative Evaluation for Tweet Classification",
    author = "Barbieri, Francesco  and
      Camacho-Collados, Jose  and
      Espinosa Anke, Luis  and
      Neves, Leonardo",
    booktitle = "Findings of the Association for Computational Linguistics: EMNLP 2020",
    month = nov,
    year = "2020",
    address = "Online",
    publisher = "Association for Computational Linguistics",
    url = "https://aclanthology.org/2020.findings-emnlp.148",
    doi = "10.18653/v1/2020.findings-emnlp.148",
    pages = "1644--1650"
}