# 輕量BERT

專為韓語處理任務設計的緊湊高效型Transformer模型，採用音節級分詞策略

基於distilbert-base-uncased微調的亞馬遜食品評論情感分析模型，可對評論進行負面(-1)、中性(0)、正面(1)三分類

該模型是基於DistilBERT在SQuAD v2數據集上微調的問答模型，適用於閱讀理解任務。

這是一個基於ConGen框架的BERT-Tiny模型，用於將句子映射到128維向量空間，適用於語義搜索等任務。

該模型是基於DistilBERT在SQuAD v2數據集上微調的問答模型，適用於閱讀理解任務。

面向波斯語的自監督語言表徵學習輕量版BERT模型

DistilKoBERT是韓語BERT模型的輕量級版本，通過知識蒸餾技術壓縮原始模型，保留了大部分性能同時減少計算資源需求。

BORT是BERT-large的高度壓縮版本，通過神經架構搜索技術優化，推理速度提升高達10倍，性能優於部分未壓縮模型。

基於m-Distil-BERT的句子轉換器模型，採用SimCSE方法訓練，可將文本映射為768維向量，適用於語義搜索和聚類任務

BERT-Medium 是谷歌發佈的 BERT 模型的一個輕量級版本，具有較少的網絡層和隱藏單元，適用於資源受限的環境。

基於bert-base-uncased微調的DistilBERT模型，主要用於文本分類任務

SqueezeBERT 是 BERT 的輕量級版本，通過優化架構減少計算資源需求，同時保持較高的自然語言理解性能。

DistilBERT是BERT基礎模型的蒸餾版本，在保持相近性能的同時更輕量高效，適用於序列分類、標記分類等自然語言處理任務。

這是distilbert-base-multilingual-cased的輕量版本，專注於英語和德語的雙語處理，保持了原始模型的表徵能力和準確率。

基於DistilBERT-base-uncased在SST-2情感分析數據集上微調的文本分類模型，準確率91.3%