Fine Tuned Cardiffnlp Twitter Roberta Base Sentiment Finance Dataset

🚀 金融情感分析微调模型

本项目基于预训练模型对金融新闻进行情感分析，通过在特定金融新闻数据集上微调，提升了模型在金融领域文本分类任务中的准确性，为金融信息的情感判断提供了更精准的工具。

🚀 快速开始

此模型是 cardiffnlp/twitter-roberta-base-sentiment 在推特金融新闻情感数据集上的微调版本。它在评估集上取得了以下结果：

• 损失值：0.3123
• 准确率：0.8559

推理 API 中的 10 个示例是在 2024 年 5 月初从 https://twitter.com/ftfinancenews 收集的。

微调的 Colab 笔记本：https://colab.research.google.com/drive/1gvpFbazlxg3AdSldH3w6TYjGUByxqCrh?usp=sharing

📚 详细文档

训练数据

https://huggingface.co/datasets/CJCJ3030/twitter-financial-news-sentiment/viewer/default/train

评估数据

https://huggingface.co/datasets/CJCJ3030/twitter-financial-news-sentiment/viewer/default/validation

训练超参数

训练期间使用了以下超参数：

• 学习率：5e - 05
• 训练批次大小：120
• 评估批次大小：120
• 随机种子：42
• 优化器：Adam（β1 = 0.9，β2 = 0.999，ε = 1e - 08）
• 学习率调度器类型：线性
• 训练轮数：5

训练结果

框架版本

• Transformers 4.40.2
• Pytorch 2.2.1+cu121
• Datasets 2.19.1
• Tokenizers 0.19.1

📄 许可证

引用

@inproceedings{barbieri-etal-2020-tweeteval,
    title = "{T}weet{E}val: Unified Benchmark and Comparative Evaluation for Tweet Classification",
    author = "Barbieri, Francesco  and
      Camacho-Collados, Jose  and
      Espinosa Anke, Luis  and
      Neves, Leonardo",
    booktitle = "Findings of the Association for Computational Linguistics: EMNLP 2020",
    month = nov,
    year = "2020",
    address = "Online",
    publisher = "Association for Computational Linguistics",
    url = "https://aclanthology.org/2020.findings-emnlp.148",
    doi = "10.18653/v1/2020.findings-emnlp.148",
    pages = "1644--1650"
}