AIbase
TW
模型選型
標籤
多級量化適配

# 多級量化適配

Unireason Qwen3 14B RL I1 GGUF
Apache-2.0
UniReason-Qwen3-14B-RL 是一個經過量化的多領域適用模型，特別擅長文本生成和數學推理任務。
大型語言模型 Transformers 英語
U
mradermacher
302
1
Thedrummer Anubis 70B V1.1 GGUF
這是一個70B參數的大語言模型量化版本，提供多種量化級別以適應不同硬件需求
大型語言模型
T
bartowski
246
1
E N V Y Legion V2.1 LLaMa 70B Elarablated V0.8 Hf GGUF
Legion-V2.1-LLaMa-70B-Elarablated-v0.8-hf是基於LLaMa-70B的量化版本，採用llama.cpp進行優化，提供多種量化選項以適應不同硬件需求。
大型語言模型
E
bartowski
267
1
Mrm8488 Qwen3 14B Ft Limo GGUF
Apache-2.0
Qwen3-14B-ft-limo模型的多種量化版本，使用llama.cpp的imatrix選項生成，適用於不同性能和存儲需求
大型語言模型
M
bartowski
866
1
Arliai QwQ 32B ArliAI RpR V4 GGUF
Apache-2.0
32B參數規模的量化大語言模型，基於ArliAI/QwQ-32B-ArliAI-RpR-v4模型，使用llama.cpp進行多種精度量化，適用於文本生成任務。
大型語言模型 英語
A
bartowski
1,721
1
Tesslate Tessa T1 3B GGUF
Apache-2.0
Tessa-T1-3B是基於Qwen2架構的3B參數大語言模型，提供多種量化版本以適應不同硬件需求。
大型語言模型 英語
T
bartowski
697
6
72B Qwen2.5 Kunou V1 GGUF
其他
基於Qwen2.5-72B-Instruct的量化版本，採用llama.cpp進行多種量化處理，適用於本地推理
大型語言模型
7
bartowski
319
4
Qwen2.5 Coder 1.5B Instruct Abliterated GGUF
Apache-2.0
基於Qwen2.5-Coder-1.5B-Instruct-abliterated模型的Llamacpp imatrix量化版本，適用於代碼生成和文本生成任務。
大型語言模型 英語
Q
bartowski
729
1
AIbase
智啟未來，您的人工智能解決方案智庫
English简体中文繁體中文にほんご
© 2025AIbase