Roberta Base Finetuned Dianping Chinese

🚀 中文RoBERTa基礎文本分類模型

本項目提供了一系列用於文本分類的中文RoBERTa基礎模型。這些模型能夠有效處理各類中文文本的分類任務，為中文自然語言處理提供了強大的支持。

🚀 快速開始

模型下載

你可以從 UER-py模型庫頁面 下載這5箇中文RoBERTa基礎分類模型，也可以通過HuggingFace從以下鏈接下載：

模型使用

你可以直接使用該模型進行文本分類（以 roberta-base-finetuned-chinanews-chinese 為例）：

>>> from transformers import AutoModelForSequenceClassification,AutoTokenizer,pipeline
>>> model = AutoModelForSequenceClassification.from_pretrained('uer/roberta-base-finetuned-chinanews-chinese')
>>> tokenizer = AutoTokenizer.from_pretrained('uer/roberta-base-finetuned-chinanews-chinese')
>>> text_classification = pipeline('sentiment-analysis', model=model, tokenizer=tokenizer)
>>> text_classification("北京上個月召開了兩會")
    [{'label': 'mainland China politics', 'score': 0.7211663722991943}]

✨ 主要特性

• 基於 UER-py 進行微調，也可通過 TencentPretrain 微調。
• 支持多種中文文本分類數據集，包括用戶評論和新聞文章。
• 可轉換為Huggingface格式，方便使用。

📦 安裝指南

文檔未提及安裝步驟，暫不提供。

💻 使用示例

基礎用法

>>> from transformers import AutoModelForSequenceClassification,AutoTokenizer,pipeline
>>> model = AutoModelForSequenceClassification.from_pretrained('uer/roberta-base-finetuned-chinanews-chinese')
>>> tokenizer = AutoTokenizer.from_pretrained('uer/roberta-base-finetuned-chinanews-chinese')
>>> text_classification = pipeline('sentiment-analysis', model=model, tokenizer=tokenizer)
>>> text_classification("北京上個月召開了兩會")
    [{'label': 'mainland China politics', 'score': 0.7211663722991943}]

📚 詳細文檔

模型描述

這是由 UER-py 微調的5箇中文RoBERTa基礎分類模型，相關內容在 這篇論文 中有所介紹。此外，這些模型也可以通過 TencentPretrain 進行微調，該框架繼承了UER-py，支持參數超過十億的模型，並將其擴展為多模態預訓練框架，相關內容在 這篇論文 中介紹。

訓練數據

使用了5箇中文文本分類數據集。京東全量數據、京東二分類數據和大眾點評數據集包含不同情感極性的用戶評論。鳳凰網和中新網數據集包含不同主題類別的新聞文章的第一段。這些數據由 Glyph 項目收集，更多細節在相應的 論文 中討論。

訓練過程

模型在 騰訊雲 上使用 UER-py 進行微調。我們在預訓練模型 chinese_roberta_L-12_H-768 的基礎上，以512的序列長度進行三個週期的微調。在每個週期結束時，當在開發集上達到最佳性能時保存模型。我們在不同模型上使用相同的超參數。

以 roberta-base-finetuned-chinanews-chinese 為例：

python3 finetune/run_classifier.py --pretrained_model_path models/cluecorpussmall_roberta_base_seq512_model.bin-250000 \
                                   --vocab_path models/google_zh_vocab.txt \
                                   --train_path datasets/glyph/chinanews/train.tsv \
                                   --dev_path datasets/glyph/chinanews/dev.tsv \
                                   --output_model_path models/chinanews_classifier_model.bin \
                                   --learning_rate 3e-5 --epochs_num 3 --batch_size 32 --seq_length 512

最後，我們將預訓練模型轉換為Huggingface格式：

python3 scripts/convert_bert_text_classification_from_uer_to_huggingface.py --input_model_path models/chinanews_classifier_model.bin \
                                                                            --output_model_path pytorch_model.bin \
                                                                            --layers_num 12

BibTeX引用和引用信息

@article{liu2019roberta,
  title={Roberta: A robustly optimized bert pretraining approach},
  author={Liu, Yinhan and Ott, Myle and Goyal, Naman and Du, Jingfei and Joshi, Mandar and Chen, Danqi and Levy, Omer and Lewis, Mike and Zettlemoyer, Luke and Stoyanov, Veselin},
  journal={arXiv preprint arXiv:1907.11692},
  year={2019}
}

@article{zhang2017encoding,
  title={Which encoding is the best for text classification in chinese, english, japanese and korean?},
  author={Zhang, Xiang and LeCun, Yann},
  journal={arXiv preprint arXiv:1708.02657},
  year={2017}
}

@article{zhao2019uer,
  title={UER: An Open-Source Toolkit for Pre-training Models},
  author={Zhao, Zhe and Chen, Hui and Zhang, Jinbin and Zhao, Xin and Liu, Tao and Lu, Wei and Chen, Xi and Deng, Haotang and Ju, Qi and Du, Xiaoyong},
  journal={EMNLP-IJCNLP 2019},
  pages={241},
  year={2019}
}

@article{zhao2023tencentpretrain,
  title={TencentPretrain: A Scalable and Flexible Toolkit for Pre-training Models of Different Modalities},
  author={Zhao, Zhe and Li, Yudong and Hou, Cheng and Zhao, Jing and others},
  journal={ACL 2023},
  pages={217},
  year={2023}

🔧 技術細節

文檔未提供足夠的技術實現細節，暫不展示。

📄 許可證

文檔未提及許可證信息，暫不展示。