AIbase
TW
模型選型
標籤
ELECTRA風格預訓練

# ELECTRA風格預訓練

Deberta V3 Base
MIT
DeBERTaV3是基於DeBERTa改進的預訓練語言模型，通過梯度解耦嵌入共享的ELECTRA風格預訓練方法提升效率，在自然語言理解任務上表現優異。
大型語言模型 英語
D
microsoft
1.6M
316
Deberta V3 Large
MIT
DeBERTaV3通過ELECTRA風格預訓練與梯度解耦嵌入共享技術改進DeBERTa，在自然語言理解任務上表現優異
大型語言模型 Transformers 英語
D
microsoft
343.39k
213
Deberta V3 Small
MIT
DeBERTa-v3是微軟推出的改進版自然語言理解模型，通過ELECTRA風格預訓練和梯度解耦嵌入共享技術優化，在保持較小參數量的同時實現高效性能。
大型語言模型 Transformers 英語
D
microsoft
189.23k
51
Deberta V3 Xsmall Squad2
DeBERTa v3 xsmall是微軟推出的改進版自然語言理解模型，通過解耦注意力機制和增強型掩碼解碼器提升性能，在多項NLU任務上超越RoBERTa。
問答系統 Transformers 英語
D
nbroad
17
0
Deberta V3 Xsmall
MIT
DeBERTaV3是微軟提出的改進版DeBERTa模型，通過ELECTRA風格的梯度解耦嵌入共享預訓練方法提升效率，在自然語言理解任務中表現優異。
大型語言模型 Transformers 英語
D
microsoft
87.40k
43
AIbase
智啟未來，您的人工智能解決方案智庫
English简体中文繁體中文にほんご
© 2025AIbase