Deberta Base

🚀 DeBERTa：具有解耦注意力的解碼增強型BERT

DeBERTa是一種基於解耦注意力和增強掩碼解碼器對BERT和RoBERTa模型進行改進的模型。它使用80GB訓練數據，在大多數自然語言理解（NLU）任務上的表現優於BERT和RoBERTa。

更多詳細信息和更新請查看官方倉庫。

🚀 快速開始

🔍 在NLU任務上進行微調

我們展示了在SQuAD 1.1/2.0和MNLI任務上的開發結果。

📄 許可證

本項目採用MIT許可證。

📚 引用

如果您發現DeBERTa對您的工作有幫助，請引用以下論文：

@inproceedings{
he2021deberta,
title={DEBERTA: DECODING-ENHANCED BERT WITH DISENTANGLED ATTENTION},
author={Pengcheng He and Xiaodong Liu and Jianfeng Gao and Weizhu Chen},
booktitle={International Conference on Learning Representations},
year={2021},
url={https://openreview.net/forum?id=XPZIaotutsD}
}