AIbase
TW
模型選型
標籤
4bit量化壓縮

# 4bit量化壓縮

Cogito 14b Gptq Q4
Apache-2.0
基於Qwen2.5-14B大語言模型的GPTQ量化版本，支持英語和西班牙語文本生成任務
大型語言模型 Transformers
C
mediainbox
8,547
2
Llama 4 Maverick 17B 128E Instruct 4bit
其他
這是一個基於Llama-4-Maverick-17B-128E-Instruct轉換的4位量化版本，適用於MLX框架的多語言指令跟隨模型
大型語言模型 Transformers 支持多種語言
L
mlx-community
140
1
Clara 24B
Apache-2.0
克拉拉-24B是基於Mistral3架構的24B參數大型語言模型，使用Unsloth和Huggingface的TRL庫進行了高效訓練。
大型語言模型 Transformers 英語
C
ayan4m1
80
2
Llama 3.2 11B Vision OCR
Apache-2.0
基於Unsloth優化的Llama 3.2-11B視覺指令模型，4bit量化版本，訓練速度提升2倍
大型語言模型 Transformers 英語
L
Swapnik
80
1
Molmo 7B D Bnb 4bit
Apache-2.0
Molmo-7B-D是一個經過BnB 4bit量化的大語言模型，模型體積從30GB減小到7GB，顯存需求降低至約12GB。
大型語言模型 Transformers
M
cyan2k
1,994
17
AIbase
智啟未來，您的人工智能解決方案智庫
English简体中文繁體中文にほんご
© 2025AIbase