Roberta Base Finetuned Chinanews Chinese

🚀 中文RoBERTa-Base文本分类模型

本项目提供了5个经过微调的中文RoBERTa-Base文本分类模型，可有效解决文本分类任务，为中文文本处理提供了强大的支持。

🚀 快速开始

你可以使用以下代码直接调用该模型进行文本分类（以 roberta-base-finetuned-chinanews-chinese 为例）：

>>> from transformers import AutoModelForSequenceClassification,AutoTokenizer,pipeline
>>> model = AutoModelForSequenceClassification.from_pretrained('uer/roberta-base-finetuned-chinanews-chinese')
>>> tokenizer = AutoTokenizer.from_pretrained('uer/roberta-base-finetuned-chinanews-chinese')
>>> text_classification = pipeline('sentiment-analysis', model=model, tokenizer=tokenizer)
>>> text_classification("北京上个月召开了两会")
    [{'label': 'mainland China politics', 'score': 0.7211663722991943}]

✨ 主要特性

• 本套模型由 UER-py 微调得到，相关介绍见 此论文。
• 模型也可由 TencentPretrain 微调，该框架继承自 UER-py，支持参数超十亿的模型，并扩展为多模态预训练框架，相关介绍见 此论文。

📦 安装指南

文档中未提及安装相关内容，可参考 transformers 库的安装方式进行安装。

💻 使用示例

基础用法

使用 roberta-base-finetuned-chinanews-chinese 模型进行文本分类：

>>> from transformers import AutoModelForSequenceClassification,AutoTokenizer,pipeline
>>> model = AutoModelForSequenceClassification.from_pretrained('uer/roberta-base-finetuned-chinanews-chinese')
>>> tokenizer = AutoTokenizer.from_pretrained('uer/roberta-base-finetuned-chinanews-chinese')
>>> text_classification = pipeline('sentiment-analysis', model=model, tokenizer=tokenizer)
>>> text_classification("北京上个月召开了两会")
    [{'label': 'mainland China politics', 'score': 0.7211663722991943}]

📚 详细文档

模型下载

你可以从 UER-py 模型库页面 下载这5个中文 RoBERTa-Base 分类模型，也可以通过 HuggingFace 从以下链接下载：

训练数据

使用了5个中文文本分类数据集。其中，JD full、JD binary 和 Dianping 数据集包含不同情感极性的用户评论；Ifeng 和 Chinanews 数据集包含不同主题类别的新闻文章首段。这些数据集由 Glyph 项目收集，更多详细信息见 相应论文。

训练过程

模型在 腾讯云 上使用 UER-py 进行微调。在预训练模型 chinese_roberta_L-12_H-768 的基础上，以序列长度512进行3个轮次的微调。在每个轮次结束时，当模型在开发集上达到最佳性能时进行保存。不同模型使用相同的超参数。

以 roberta-base-finetuned-chinanews-chinese 为例：

python3 finetune/run_classifier.py --pretrained_model_path models/cluecorpussmall_roberta_base_seq512_model.bin-250000 \
                                   --vocab_path models/google_zh_vocab.txt \
                                   --train_path datasets/glyph/chinanews/train.tsv \
                                   --dev_path datasets/glyph/chinanews/dev.tsv \
                                   --output_model_path models/chinanews_classifier_model.bin \
                                   --learning_rate 3e-5 --epochs_num 3 --batch_size 32 --seq_length 512

最后，将预训练模型转换为 Huggingface 格式：

python3 scripts/convert_bert_text_classification_from_uer_to_huggingface.py --input_model_path models/chinanews_classifier_model.bin \
                                                                            --output_model_path pytorch_model.bin \
                                                                            --layers_num 12

引用信息

@article{liu2019roberta,
  title={Roberta: A robustly optimized bert pretraining approach},
  author={Liu, Yinhan and Ott, Myle and Goyal, Naman and Du, Jingfei and Joshi, Mandar and Chen, Danqi and Levy, Omer and Lewis, Mike and Zettlemoyer, Luke and Stoyanov, Veselin},
  journal={arXiv preprint arXiv:1907.11692},
  year={2019}
}

@article{zhang2017encoding,
  title={Which encoding is the best for text classification in chinese, english, japanese and korean?},
  author={Zhang, Xiang and LeCun, Yann},
  journal={arXiv preprint arXiv:1708.02657},
  year={2017}
}

@article{zhao2019uer,
  title={UER: An Open-Source Toolkit for Pre-training Models},
  author={Zhao, Zhe and Chen, Hui and Zhang, Jinbin and Zhao, Xin and Liu, Tao and Lu, Wei and Chen, Xi and Deng, Haotang and Ju, Qi and Du, Xiaoyong},
  journal={EMNLP-IJCNLP 2019},
  pages={241},
  year={2019}
}

@article{zhao2023tencentpretrain,
  title={TencentPretrain: A Scalable and Flexible Toolkit for Pre-training Models of Different Modalities},
  author={Zhao, Zhe and Li, Yudong and Hou, Cheng and Zhao, Jing and others},
  journal={ACL 2023},
  pages={217},
  year={2023}