AIbase
TW
模型選型
標籤
輕量級量化

# 輕量級量化

Qwen Qwen2.5 Coder 1.5B GGUF
Qwen2.5-Coder-1.5B的GGUF量化版本，針對代碼生成任務優化，提供多種量化選項以平衡性能與資源消耗。
大型語言模型
Q
featherless-ai-quants
228
1
Vintern 1B V3 5 GGUF Ext
MIT
Vintern-1B-v3_5是一個10億參數的視覺語言模型，支持圖像文本生成任務。
文本生成圖像
V
rootonchair
242
1
Qwen Qwen3 8B GGUF
Apache-2.0
Qwen3-8B的GGUF格式量化版本，由TensorBlock提供，兼容llama.cpp
大型語言模型
Q
tensorblock
452
1
Smolvlm2 2.2B Instruct I1 GGUF
Apache-2.0
SmolVLM2-2.2B-Instruct 是一個2.2B參數規模的視覺語言模型，專注於視頻文本到文本任務，支持英語。
英語
S
mradermacher
285
0
Cupidon Mini Ro I1 GGUF
Apache-2.0
這是對BlackKakapo/cupidon-mini-ro進行的加權/imatrix量化版本，適用於羅馬尼亞語文本處理任務。
文本嵌入 其他
C
mradermacher
546
1
Gte Qwen2 1.5B Instruct GGUF
Apache-2.0
基於阿里巴巴NLP/gte-Qwen2-1.5B-instruct的量化版本，主要用於句子相似度計算和文本嵌入任務。
大型語言模型 英語
G
mradermacher
365
2
Gemma 2 Baku 2b It GGUF
這是rinna公司的gemma-2-baku-2b-it模型的GGUF格式轉換版本，應用了K量子化和iMatrix技術
大型語言模型 Transformers 支持多種語言
G
MCZK
195
2
Pivot 0.1 Evil A GGUF
PiVoT-0.1-Evil-a是基於Mistral 7B微調的韓英雙語模型，提供多種量化格式的GGUF文件，適用於不同硬件環境。
大型語言模型 Transformers 支持多種語言
P
TheBloke
280
28
GPT NeoX 1.3B Viet Final GGUF
基於31.3GB越南語數據預訓練的1.3B參數GPT-NeoX模型
大型語言模型 英語
G
afrideva
170
1
AIbase
智啟未來，您的人工智能解決方案智庫
English简体中文繁體中文にほんご
© 2025AIbase