# 4bit量化壓縮

基於Qwen2.5-14B大語言模型的GPTQ量化版本，支持英語和西班牙語文本生成任務

這是一個基於Llama-4-Maverick-17B-128E-Instruct轉換的4位量化版本，適用於MLX框架的多語言指令跟隨模型

克拉拉-24B是基於Mistral3架構的24B參數大型語言模型，使用Unsloth和Huggingface的TRL庫進行了高效訓練。

基於Unsloth優化的Llama 3.2-11B視覺指令模型，4bit量化版本，訓練速度提升2倍

Molmo-7B-D是一個經過BnB 4bit量化的大語言模型，模型體積從30GB減小到7GB，顯存需求降低至約12GB。