AIbase
TW
模型選型
標籤
剪枝優化

# 剪枝優化

Sheared LLaMA 2.7B
Apache-2.0
Sheared-LLaMA-2.7B是基於Llama-2-7b通過剪枝和繼續預訓練得到的輕量級語言模型，僅消耗50B tokens預算。
大型語言模型 Transformers
S
princeton-nlp
1,131
60
Bert Base Uncased Squadv1 X1.96 F88.3 D27 Hybrid Filled Opt V1
MIT
基於BERT-base uncased模型在SQuAD v1上微調並優化的問答模型，通過剪枝技術保留43%原始權重，推理速度提升1.96倍
問答系統 Transformers 英語
B
madlag
20
0
Bert Base Uncased Sst2 Acc91.1 D37 Hybrid
Apache-2.0
該模型是基於bert-base-uncased在SST-2數據集上微調得到的文本分類模型，通過nn_pruning庫進行了剪枝優化，保留了原模型51%的權重，準確率達到91.17%。
文本分類 Transformers 英語
B
echarlaix
172
0
Bert Base Uncased Squadv1 X2.01 F89.2 D30 Hybrid Rewind Opt V1
MIT
基於BERT-base uncased模型在SQuAD v1上微調的問答系統模型，通過nn_pruning庫進行剪枝優化，推理速度提升2.01倍，F1得分提升0.69。
問答系統 Transformers 英語
B
madlag
22
0
Bert Base Uncased Sparse 70 Unstructured
這是BERT基礎模型的剪枝版本，達到70%的稀疏度，適用於下游任務的微調。
大型語言模型 Transformers 英語
B
Intel
28
0
AIbase
智啟未來，您的人工智能解決方案智庫
English简体中文繁體中文にほんご
© 2025AIbase