AIbase
ZH
模型选型
标签
多量化版本适配

# 多量化版本适配

Qwen2.5 VL 7B Meteorology I1 GGUF
其他
Qwen2.5-VL-7B-Meteorology的量化版本，适用于气象、气候等领域的图像文本处理任务，能在不同硬件条件下高效运行。
图像生成文本 Transformers 英语
Q
mradermacher
124
1
Nbeerbower Qwen3 Gutenberg Encore 14B GGUF
Apache-2.0
这是nbeerbower的Qwen3-Gutenberg-Encore-14B模型的量化版本，使用llama.cpp进行量化，能在不同硬件条件下高效运行。
大型语言模型
N
bartowski
809
1
Thedrummer Rivermind Lux 12B V1 GGUF
这是一个12B参数的大语言模型，经过llama.cpp的imatrix量化处理，提供多种量化版本以适应不同硬件需求。
大型语言模型
T
bartowski
1,353
1
Mlabonne Qwen3 0.6B Abliterated GGUF
这是一个基于Qwen3-0.6B-abliterated模型的量化版本，使用llama.cpp进行量化，适用于文本生成任务。
大型语言模型
M
bartowski
1,455
2
Qwen Qwen3 0.6B GGUF
Qwen团队提供的Qwen3-0.6B的Llamacpp imatrix量化版本，使用llama.cpp进行量化，支持在LM Studio或基于llama.cpp的项目中运行。
大型语言模型
Q
bartowski
10.24k
14
Thedrummer Cydonia 24B V2.1 GGUF
其他
Cydonia-24B-v2.1是一个24B参数的大语言模型，经过llama.cpp的imatrix量化处理，提供多种量化版本以适应不同硬件需求。
大型语言模型
T
bartowski
4,417
7
Nera Noctis 12B GGUF
其他
Nera_Noctis-12B的Llamacpp imatrix量化版本，基于Nitral-AI/Nera_Noctis-12B模型，支持英文文本生成任务。
大型语言模型 英语
N
bartowski
64
6
Mistral Evolved 11b V0.1 GGUF
Apache-2.0
Mistral-Evolved-11b-v0.1的量化版本，使用llama.cpp进行量化，提供多种量化选项以适应不同需求。
大型语言模型
M
bartowski
1,761
7
AIbase
智启未来，您的人工智能解决方案智库
English简体中文繁體中文にほんご
© 2025AIbase