Ernie Gram Zh

🚀 ERNIE-Gram-zh

ERNIE-Gram是一種通過顯式N-gram掩碼語言建模進行預訓練的模型，用於自然語言理解。它能有效提升自然語言處理任務的性能，為相關研究和應用提供有力支持。

🚀 快速開始

ERNIE-Gram通過顯式N-gram掩碼語言建模進行預訓練，以提升自然語言理解能力。更多詳細信息請參考：https://arxiv.org/abs/2010.12148

✨ 主要特性

模型信息

本項目發佈的PyTorch模型是從官方發佈的PaddlePaddle ERNIE模型轉換而來，並進行了一系列實驗以驗證轉換的準確性。

• 官方PaddlePaddle ERNIE倉庫：https://github.com/PaddlePaddle/PaddleNLP/blob/develop/paddlenlp/transformers/ernie_gram/modeling.py
• PyTorch轉換倉庫：https://github.com/nghuyong/ERNIE-Pytorch

💻 使用示例

基礎用法

from transformers import AutoTokenizer, AutoModel
tokenizer = AutoTokenizer.from_pretrained("nghuyong/ernie-gram-zh")
model = AutoModel.from_pretrained("nghuyong/ernie-gram-zh")