Ernie 1.0 Base Zh

🚀 ERNIE-1.0

ERNIE-1.0 由百度于 2019 年提出，它通过知识掩码策略（如实体级掩码和短语级掩码）来学习增强的语言表示。该模型在自然语言推理、语义相似度、命名实体识别、情感分析和问答等五项中文自然语言处理任务上取得了最先进的成果。

🚀 快速开始

ERNIE（Enhanced Representation through kNowledge IntEgration）由百度于 2019 年提出，旨在通过知识掩码策略（即实体级掩码和短语级掩码）学习增强的语言表示。实验结果表明，ERNIE 在包括自然语言推理、语义相似度、命名实体识别、情感分析和问答在内的五项中文自然语言处理任务上取得了最先进的成果。

更多详情：https://arxiv.org/abs/1904.09223

✨ 主要特性

• 本发布的 PyTorch 模型是从官方发布的 PaddlePaddle ERNIE 模型转换而来，并进行了一系列实验以检查转换的准确性。
• 官方 PaddlePaddle ERNIE 仓库：https://github.com/PaddlePaddle/ERNIE
• PyTorch 转换仓库：https://github.com/nghuyong/ERNIE-Pytorch

💻 使用示例

基础用法

from transformers import AutoTokenizer, AutoModel
tokenizer = AutoTokenizer.from_pretrained("nghuyong/ernie-1.0-base-zh")
model = AutoModel.from_pretrained("nghuyong/ernie-1.0-base-zh")

📄 许可证

引用

@article{sun2019ernie,
  title={Ernie: Enhanced representation through knowledge integration},
  author={Sun, Yu and Wang, Shuohuan and Li, Yukun and Feng, Shikun and Chen, Xuyi and Zhang, Han and Tian, Xin and Zhu, Danxiang and Tian, Hao and Wu, Hua},
  journal={arXiv preprint arXiv:1904.09223},
  year={2019}
}