Erlangshen DeBERTa V2 97M Chinese

🚀 二郎神-DeBERTa-v2-97M-中文模型

二郎神-DeBERTa-v2-97M-中文模型是中文版的DeBERTa-v2-Base，擁有0.97億參數。它採用全詞掩碼方式，在自然語言理解（NLU）任務中表現出色。

🚀 快速開始

你可以按照以下代碼示例使用該模型：

from transformers import AutoModelForMaskedLM, AutoTokenizer, FillMaskPipeline
import torch

tokenizer=AutoTokenizer.from_pretrained('IDEA-CCNL/Erlangshen-DeBERTa-v2-97M-Chinese', use_fast=False)
model=AutoModelForMaskedLM.from_pretrained('IDEA-CCNL/Erlangshen-DeBERTa-v2-97M-Chinese')
text = '生活的真諦是[MASK]。'
fillmask_pipe = FillMaskPipeline(model, tokenizer, device=7)
print(fillmask_pipe(text, top_k=10))

✨ 主要特性

• 專為中文設計，採用全詞掩碼（wwm）方式進行預訓練。
• 適用於自然語言理解（NLU）相關任務。

📦 模型信息

模型分類

參考論文

參考論文：DeBERTa: Decoding-enhanced BERT with Disentangled Attention

預訓練情況

為了得到這個中文版的DeBERTa-v2-Base（97M），我們使用悟道語料庫(180G版本)進行預訓練，並在MLM中採用了全詞掩碼(wwm)的方式。具體而言，在預訓練階段使用了封神框架，大約花費了24張A100約7天。

下游任務表現

我們展示了該模型在下列下游任務開發集（dev集）的結果：

📄 許可證

本項目採用Apache-2.0許可證。

📚 引用

如果您在工作中使用了我們的模型，可以引用我們的論文：

@article{fengshenbang,
  author    = {Jiaxing Zhang and Ruyi Gan and Junjie Wang and Yuxiang Zhang and Lin Zhang and Ping Yang and Xinyu Gao and Ziwei Wu and Xiaoqun Dong and Junqing He and Jianheng Zhuo and Qi Yang and Yongfeng Huang and Xiayu Li and Yanghan Wu and Junyu Lu and Xinyu Zhu and Weifeng Chen and Ting Han and Kunhao Pan and Rui Wang and Hao Wang and Xiaojun Wu and Zhongshen Zeng and Chongpei Chen},
  title     = {Fengshenbang 1.0: Being the Foundation of Chinese Cognitive Intelligence},
  journal   = {CoRR},
  volume    = {abs/2209.02970},
  year      = {2022}
}

也可以引用我們的網站:

@misc{Fengshenbang-LM,
  title={Fengshenbang-LM},
  author={IDEA-CCNL},
  year={2021},
  howpublished={\url{https://github.com/IDEA-CCNL/Fengshenbang-LM}},
}

相關鏈接

• 主頁：Fengshenbang
• Github：Fengshenbang-LM