Ernie Gram Zh

🚀 ERNIE-Gram-zh

ERNIE-Gram是一种通过显式N-gram掩码语言建模进行预训练的模型，用于自然语言理解。它能有效提升自然语言处理任务的性能，为相关研究和应用提供有力支持。

🚀 快速开始

ERNIE-Gram通过显式N-gram掩码语言建模进行预训练，以提升自然语言理解能力。更多详细信息请参考：https://arxiv.org/abs/2010.12148

✨ 主要特性

模型信息

本项目发布的PyTorch模型是从官方发布的PaddlePaddle ERNIE模型转换而来，并进行了一系列实验以验证转换的准确性。

• 官方PaddlePaddle ERNIE仓库：https://github.com/PaddlePaddle/PaddleNLP/blob/develop/paddlenlp/transformers/ernie_gram/modeling.py
• PyTorch转换仓库：https://github.com/nghuyong/ERNIE-Pytorch

💻 使用示例

基础用法

from transformers import AutoTokenizer, AutoModel
tokenizer = AutoTokenizer.from_pretrained("nghuyong/ernie-gram-zh")
model = AutoModel.from_pretrained("nghuyong/ernie-gram-zh")