Bart Base Cnn R2 19.4 D35 Hybrid
這是一個經過剪枝優化的BART-base模型,專為摘要生成任務設計,保留了原始模型53%的權重。
下載量 20
發布時間 : 3/2/2022
模型概述
該模型是基於facebook/bart-base微調的摘要生成模型,使用nn_pruning庫進行剪枝優化,在CNN/DailyMail數據集上表現出色。
模型特點
高效剪枝
使用nn_pruning技術剪枝,僅保留35%的線性層權重,整體保留53%原始權重。
注意力頭優化
216個注意力頭中移除了38個(17.6%),提高了模型效率。
高性能摘要
在CNN/DailyMail數據集上取得優秀的Rouge分數。
模型能力
文本摘要生成
長文本壓縮
新聞內容提煉
使用案例
新聞處理
新聞摘要生成
自動生成新聞文章的簡潔摘要
Rouge-1:42.18, Rouge-2:19.44, Rouge-L:39.17
內容分析
長文檔摘要
對長文檔進行關鍵信息提取和總結
精選推薦AI模型
Llama 3 Typhoon V1.5x 8b Instruct
專為泰語設計的80億參數指令模型,性能媲美GPT-3.5-turbo,優化了應用場景、檢索增強生成、受限生成和推理任務
大型語言模型
Transformers 支持多種語言

L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-Tiny是一個基於SODA數據集訓練的超小型對話模型,專為邊緣設備推理設計,體積僅為Cosmo-3B模型的2%左右。
對話系統
Transformers 英語

C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
基於RoBERTa架構的中文抽取式問答模型,適用於從給定文本中提取答案的任務。
問答系統 中文
R
uer
2,694
98