Finbert Pretrain

🚀 FinBERT

FinBERT是一个在金融沟通文本上预训练的BERT模型，旨在推动金融自然语言处理（NLP）的研究与实践。它在以下三个金融沟通语料库上进行训练，语料库总大小达49亿个词元。

• 公司报告10 - K和10 - Q：25亿个词元
• 财报电话会议记录：13亿个词元
• 分析师报告：11亿个词元

🚀 快速开始

如果你在学术研究中使用该模型，请引用以下论文：

• Huang, Allen H., Hui Wang, and Yi Yang. "FinBERT: A Large Language Model for Extracting Information from Financial Text." Contemporary Accounting Research (2022).
• Yang, Yi, Mark Christopher Siy Uy, and Allen Huang. "Finbert: A pretrained language model for financial communications." arXiv preprint arXiv:2006.08097 (2020).

✨ 主要特性

FinBERT可以在下游任务上进行进一步微调。具体而言，我们已经针对金融情感分析、环境、社会和公司治理（ESG）分类、前瞻性声明分类等任务对FinBERT进行了微调。访问FinBERT.AI，了解这些特定任务模型的更多细节以及FinBERT的最新进展。