AIbase
ZH
模型选型
标签
轻量级量化

# 轻量级量化

Qwen Qwen2.5 Coder 1.5B GGUF
Qwen2.5-Coder-1.5B的GGUF量化版本，针对代码生成任务优化，提供多种量化选项以平衡性能与资源消耗。
大型语言模型
Q
featherless-ai-quants
228
1
Vintern 1B V3 5 GGUF Ext
MIT
Vintern-1B-v3_5是一个10亿参数的视觉语言模型，支持图像文本生成任务。
文本生成图像
V
rootonchair
242
1
Qwen Qwen3 8B GGUF
Apache-2.0
Qwen3-8B的GGUF格式量化版本，由TensorBlock提供，兼容llama.cpp
大型语言模型
Q
tensorblock
452
1
Smolvlm2 2.2B Instruct I1 GGUF
Apache-2.0
SmolVLM2-2.2B-Instruct 是一个2.2B参数规模的视觉语言模型，专注于视频文本到文本任务，支持英语。
文本到文本 英语
S
mradermacher
285
0
Cupidon Mini Ro I1 GGUF
Apache-2.0
这是对BlackKakapo/cupidon-mini-ro进行的加权/imatrix量化版本，适用于罗马尼亚语文本处理任务。
文本嵌入 其他
C
mradermacher
546
1
Gte Qwen2 1.5B Instruct GGUF
Apache-2.0
基于阿里巴巴NLP/gte-Qwen2-1.5B-instruct的量化版本，主要用于句子相似度计算和文本嵌入任务。
大型语言模型 英语
G
mradermacher
365
2
Gemma 2 Baku 2b It GGUF
这是rinna公司的gemma-2-baku-2b-it模型的GGUF格式转换版本，应用了K量子化和iMatrix技术
大型语言模型 Transformers 支持多种语言
G
MCZK
195
2
Pivot 0.1 Evil A GGUF
PiVoT-0.1-Evil-a是基于Mistral 7B微调的韩英双语模型，提供多种量化格式的GGUF文件，适用于不同硬件环境。
大型语言模型 Transformers 支持多种语言
P
TheBloke
280
28
GPT NeoX 1.3B Viet Final GGUF
基于31.3GB越南语数据预训练的1.3B参数GPT-NeoX模型
大型语言模型 英语
G
afrideva
170
1
AIbase
智启未来，您的人工智能解决方案智库
English简体中文繁體中文にほんご
© 2025AIbase