# 多级量化适配

Unireason Qwen3 14B RL I1 GGUF
Apache-2.0
UniReason-Qwen3-14B-RL 是一个经过量化的多领域适用模型,特别擅长文本生成和数学推理任务。
大型语言模型 Transformers 英语
U
mradermacher
302
1
Thedrummer Anubis 70B V1.1 GGUF
这是一个70B参数的大语言模型量化版本,提供多种量化级别以适应不同硬件需求
大型语言模型
T
bartowski
246
1
E N V Y Legion V2.1 LLaMa 70B Elarablated V0.8 Hf GGUF
Legion-V2.1-LLaMa-70B-Elarablated-v0.8-hf是基于LLaMa-70B的量化版本,采用llama.cpp进行优化,提供多种量化选项以适应不同硬件需求。
大型语言模型
E
bartowski
267
1
Mrm8488 Qwen3 14B Ft Limo GGUF
Apache-2.0
Qwen3-14B-ft-limo模型的多种量化版本,使用llama.cpp的imatrix选项生成,适用于不同性能和存储需求
大型语言模型
M
bartowski
866
1
Arliai QwQ 32B ArliAI RpR V4 GGUF
Apache-2.0
32B参数规模的量化大语言模型,基于ArliAI/QwQ-32B-ArliAI-RpR-v4模型,使用llama.cpp进行多种精度量化,适用于文本生成任务。
大型语言模型 英语
A
bartowski
1,721
1
Tesslate Tessa T1 3B GGUF
Apache-2.0
Tessa-T1-3B是基于Qwen2架构的3B参数大语言模型,提供多种量化版本以适应不同硬件需求。
大型语言模型 英语
T
bartowski
697
6
72B Qwen2.5 Kunou V1 GGUF
其他
基于Qwen2.5-72B-Instruct的量化版本,采用llama.cpp进行多种量化处理,适用于本地推理
大型语言模型
7
bartowski
319
4
Qwen2.5 Coder 1.5B Instruct Abliterated GGUF
Apache-2.0
基于Qwen2.5-Coder-1.5B-Instruct-abliterated模型的Llamacpp imatrix量化版本,适用于代码生成和文本生成任务。
大型语言模型 英语
Q
bartowski
729
1
AIbase
智启未来,您的人工智能解决方案智库
© 2025AIbase