Mengzi Bert Base Fin

🚀 孟子BERT基础金融模型（中文）

本模型在孟子BERT基础模型上，使用20G金融新闻和研究报告进行继续训练。采用了掩码语言模型（MLM）、词性标注（POS）和句子顺序预测（SOP）作为训练任务。

孟子：迈向轻量级且精巧的中文预训练模型

🚀 快速开始

💻 使用示例

基础用法

from transformers import BertTokenizer, BertModel
tokenizer = BertTokenizer.from_pretrained("Langboat/mengzi-bert-base-fin")
model = BertModel.from_pretrained("Langboat/mengzi-bert-base-fin")

📄 许可证

本项目采用Apache-2.0许可证。

📚 详细文档

引用说明

如果您发现本技术报告或资源有用，请在您的论文中引用以下技术报告：

@misc{zhang2021mengzi,
      title={Mengzi: Towards Lightweight yet Ingenious Pre-trained Models for Chinese}, 
      author={Zhuosheng Zhang and Hanqing Zhang and Keming Chen and Yuhang Guo and Jingyun Hua and Yulong Wang and Ming Zhou},
      year={2021},
      eprint={2110.06696},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}