%20--%3e%3cdefs%3e%3cstyle%3e%20.st0%20{%20fill:%20%23061b40;%20}%20.st1%20{%20fill:%20%23306af1;%20}%20.st2%20{%20fill:%20%235ce5cf;%20}%20%3c/style%3e%3c/defs%3e%3cg%3e%3cpath%20class='st0'%20d='M55,10.5h9v3h-9v9h12V7.5h-12v3ZM64,19.5h-6v-3h6v3Z'/%3e%3cpolygon%20class='st0'%20points='69%2016.5%2078%2016.5%2078%2019.5%2069%2019.5%2069%2022.5%2081%2022.5%2081%2013.5%2072%2013.5%2072%2010.5%2081%2010.5%2081%207.5%2069%207.5%2069%2016.5'/%3e%3cpolygon%20class='st0'%20points='95%2010.5%2095%207.5%2083%207.5%2083%2022.5%2095%2022.5%2095%2019.5%2086%2019.5%2086%2016.5%2095%2016.5%2095%2013.5%2086%2013.5%2086%2010.5%2095%2010.5'/%3e%3cpath%20class='st0'%20d='M40,1.5v21h11.6l1.4-1.4v-7.6h0c0,0-1.4-1.5-1.4-1.5l1.4-1.4V2.9l-1.4-1.4h-11.6ZM50,19.5h-7v-6h7v6ZM50,10.5h-7v-6h7v6Z'/%3e%3c/g%3e%3cpath%20class='st1'%20d='M23.1,24L14.7,4.8l-4.9,11.2h3.8l-1.8,4H3.3L12.1,0H2C.9,0,0,.9,0,2v20c0,1.1.9,2,2,2h21.1Z'/%3e%3cpath%20class='st2'%20d='M34,0h-16.8l10.6,24h6.2c1.1,0,2-.9,2-2V2C36,.9,35.1,0,34,0ZM32.5,20h-4V4h4v16Z'/%3e%3c/svg%3e)
Minilmv2 L6 H384 Distilled From BERT Large
MiniLMv2 是微軟推出的輕量級語言表示模型，通過知識蒸餾技術實現高效推理，適用於多種自然語言處理任務。
Downloads 14.21k
Release Time : 3/2/2022
Model Overview
MiniLMv2 是一種基於 Transformer 架構的輕量級語言模型，通過知識蒸餾從大型模型中提取關鍵知識，在保持較高性能的同時顯著減小模型規模，適用於資源受限環境下的自然語言處理任務。
Model Features
高效知識蒸餾
通過創新的蒸餾技術從大型模型中提取關鍵知識，大幅減小模型規模
輕量級設計
模型參數顯著減少，適合資源受限環境部署
高性能保持
在模型規模大幅減小的同時保持接近原始大模型的性能
通用表示能力
學習通用的語言表示，可遷移到多種下游任務
Model Capabilities
文本表示學習
文本分類
問答系統
語義相似度計算
信息檢索
Use Cases
自然語言處理
移動端文本分類
在移動設備上部署輕量級文本分類應用
高效運行且保持較高準確率
邊緣計算問答系統
在資源受限的邊緣設備上實現問答功能
低延遲響應，內存佔用小
教育技術
智能學習助手
為學生提供輕量級的語言理解和問答功能
可在普通計算設備上流暢運行
Featured Recommended AI Models
Llama 3 Typhoon V1.5x 8b Instruct
專為泰語設計的80億參數指令模型，性能媲美GPT-3.5-turbo，優化了應用場景、檢索增強生成、受限生成和推理任務
大型語言模型
Transformers Supports Multiple Languages
Transformers Supports Multiple LanguagesL
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-Tiny是一個基於SODA數據集訓練的超小型對話模型，專為邊緣設備推理設計，體積僅為Cosmo-3B模型的2%左右。
對話系統 Transformers English
Transformers EnglishC
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
基於RoBERTa架構的中文抽取式問答模型，適用於從給定文本中提取答案的任務。
問答系統 Chinese
R
uer
2,694
98