Ernie 1.0 Base Zh

🚀 ERNIE-1.0

ERNIE-1.0 由百度於 2019 年提出，它通過知識掩碼策略（如實體級掩碼和短語級掩碼）來學習增強的語言表示。該模型在自然語言推理、語義相似度、命名實體識別、情感分析和問答等五項中文自然語言處理任務上取得了最先進的成果。

🚀 快速開始

ERNIE（Enhanced Representation through kNowledge IntEgration）由百度於 2019 年提出，旨在通過知識掩碼策略（即實體級掩碼和短語級掩碼）學習增強的語言表示。實驗結果表明，ERNIE 在包括自然語言推理、語義相似度、命名實體識別、情感分析和問答在內的五項中文自然語言處理任務上取得了最先進的成果。

更多詳情：https://arxiv.org/abs/1904.09223

✨ 主要特性

• 本發佈的 PyTorch 模型是從官方發佈的 PaddlePaddle ERNIE 模型轉換而來，並進行了一系列實驗以檢查轉換的準確性。
• 官方 PaddlePaddle ERNIE 倉庫：https://github.com/PaddlePaddle/ERNIE
• PyTorch 轉換倉庫：https://github.com/nghuyong/ERNIE-Pytorch

💻 使用示例

基礎用法

from transformers import AutoTokenizer, AutoModel
tokenizer = AutoTokenizer.from_pretrained("nghuyong/ernie-1.0-base-zh")
model = AutoModel.from_pretrained("nghuyong/ernie-1.0-base-zh")

📄 許可證

引用

@article{sun2019ernie,
  title={Ernie: Enhanced representation through knowledge integration},
  author={Sun, Yu and Wang, Shuohuan and Li, Yukun and Feng, Shikun and Chen, Xuyi and Zhang, Han and Tian, Xin and Zhu, Danxiang and Tian, Hao and Wu, Hua},
  journal={arXiv preprint arXiv:1904.09223},
  year={2019}
}