# 知識蒸餾增強

這是一個基於Qwen2.5-32B的合併模型，融合了DeepSeek-R1-Distill-Qwen-32B、QwQ-32B和Sky-T1-32B-Flash的特點，旨在提升性能。

基於Qwen2.5-72B通過強化學習蒸餾的高性能數學推理與通用知識處理模型，在數學推理和通用知識任務中表現優異。

基於Qwen/Qwen2.5-7B-Instruct進行日語訓練的模型，通過蒸餾學習實現，提升了指令跟隨性能。

基於TIES方法合併的70B參數大語言模型，以Steelskull/L3.3-MS-Nevoria-70b為基礎模型融合了DeepSeek-R1-Distill-Llama-70B模型

基於DeBERTa-v3-large微調的安全防護模型，用於檢測與大語言模型對話中的不安全內容，防止越獄攻擊。

Llama 3.2系列是多語言大語言模型，包含1B和3B參數規模，針對多語言對話用例優化，包括代理檢索和摘要任務。

Llama 3.2是Meta開發的多語言大語言模型系列，包含1B和3B規模的預訓練及指令調優生成模型，針對多語言對話場景優化，支持文本輸入/輸出。

Llama 3.2是Meta開發的多語言大語言模型系列，包含1B和3B規模的預訓練及指令調優生成模型，針對多語言對話場景優化，支持智能檢索和摘要任務。

SPLADE++是基於稀疏神經信息檢索的模型，通過知識蒸餾和效率優化，在檢索質量和效率間取得平衡。

基於Llama 2 7B微調的ReLU激活稀疏大語言模型，通過動態參數選擇提升計算效率