D

Deberta Xlarge Mnli

由microsoft開發
DeBERTa-XLarge-MNLI是基於解耦注意力機制的增強型BERT模型,經過MNLI任務微調,擁有750M參數,在自然語言理解任務上表現優異。
下載量 833.58k
發布時間 : 3/2/2022

模型概述

DeBERTa通過解耦注意力機制和增強的掩碼解碼器改進了BERT與RoBERTa模型,在80GB訓練數據下,其在大多數自然語言理解任務上超越了BERT和RoBERTa的表現。

模型特點

解耦注意力機制
通過解耦注意力機制改進了BERT與RoBERTa模型,提升了模型在自然語言理解任務上的表現。
增強的掩碼解碼器
採用增強的掩碼解碼器,進一步提升了模型的性能。
大規模訓練數據
在80GB訓練數據下訓練,模型在多個自然語言理解任務上表現優異。

模型能力

自然語言理解
文本分類
語義相似度計算

使用案例

自然語言處理
文本蘊含識別
識別兩個句子之間的邏輯關係(蘊含、矛盾或中立)。
在MNLI任務上準確率達到91.5/91.2(匹配/不匹配)。
語義相似度計算
計算兩個句子之間的語義相似度。
在STS-B任務上Pearson/Spearman相關係數達到92.9/92.7。
AIbase
智啟未來,您的人工智能解決方案智庫
© 2025AIbase