Distilbert Mlm 1000k
DistilBERT是BERT的輕量級蒸餾版本,保留了BERT 97%的性能,同時體積縮小40%,速度提升60%。
下載量 26
發布時間 : 4/2/2022
模型概述
DistilBERT是一種基於Transformer的預訓練語言模型,通過知識蒸餾技術從BERT模型壓縮而來。適用於文本分類、問答、命名實體識別等自然語言處理任務。
模型特點
高效輕量
相比原始BERT模型,體積縮小40%,推理速度提升60%,適合資源受限環境部署
高性能
保留BERT模型97%的性能,在多項NLP基準測試中表現優異
多任務適應
支持多種下游NLP任務微調,包括文本分類、問答和命名實體識別
模型能力
文本理解
文本分類
問答系統
命名實體識別
語義相似度計算
使用案例
文本分析
情感分析
分析社交媒體或評論中的情感傾向
準確率可達90%以上
垃圾郵件檢測
識別電子郵件或消息中的垃圾內容
信息提取
命名實體識別
從文本中提取人名、地名、組織名等實體
精選推薦AI模型
Llama 3 Typhoon V1.5x 8b Instruct
專為泰語設計的80億參數指令模型,性能媲美GPT-3.5-turbo,優化了應用場景、檢索增強生成、受限生成和推理任務
大型語言模型
Transformers 支持多種語言

L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-Tiny是一個基於SODA數據集訓練的超小型對話模型,專為邊緣設備推理設計,體積僅為Cosmo-3B模型的2%左右。
對話系統
Transformers 英語

C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
基於RoBERTa架構的中文抽取式問答模型,適用於從給定文本中提取答案的任務。
問答系統 中文
R
uer
2,694
98