# 多格式量化

基於Qwen 30B-A3B(MOE)微調的高效推理模型，通過減少專家數量實現接近雙倍速度提升，支持多種量化格式和40K上下文長度

一個專注於英語和意大利語翻譯的1B參數語言模型，提供多種量化版本的GGUF格式文件。

基於多個高質量8B模型合併優化的Llama-3.1架構大語言模型，支持超長上下文處理

all-MiniLM-L6-v2是一個小型高效的句子嵌入模型，基於MiniLM架構，適用於句子相似度計算和特徵提取任務。

SummLlama3.2-3B是基於Llama3架構優化的3.2B參數摘要生成模型，提供多種量化版本以適應不同硬件需求。