# 4bit量化

DiffuCoder-7B-cpGRPO-4bit 是一個基於蘋果 DiffuCoder-7B-cpGRPO 模型轉換而來的 4 位量化版本，專為 MLX 框架優化。

騰訊混元A13B大語言模型的4bit量化版本，適用於指令跟隨任務

這是一個基於Qwen3-30B模型轉換而來的4位量化版本，適用於MLX框架的文本生成任務。

這是一個基於Qwen3-235B-A22B-8bit模型轉換而來的4位量化版本，專為MLX框架優化，適用於文本生成任務。

該模型是基於DeepSeek-R1-0528-Qwen3-8B轉換的4位量化版本，專為MLX框架優化，適用於文本生成任務。

基於Llama 3.3 70B指令微調模型的4位DWQ量化版本，適用於MLX框架的高效推理

MedGemma-27B-Text-IT-4bit是基於Google的MedGemma-27B-Text-IT模型轉換而來的MLX格式模型，專為醫療和臨床推理任務優化。

MedGemma-4B-IT-4bit 是一個專為醫學領域設計的視覺語言模型，支持圖像和文本處理，適用於醫學圖像分析等任務。

這是一個基於MLX格式的4位量化語言模型，適用於文本生成任務。

這是一個基於Google Gemma 3 27B IT模型轉換的4位量化版本，專為MLX框架優化。

Qwen3-235B-A22B-4bit-DWQ是基於Qwen3-235B-A22B-8bit模型轉換而來的4位量化版本，適用於文本生成任務。

該模型是Qwen3-4B的4位DWQ量化版本，轉換為MLX格式，方便使用mlx庫進行文本生成。

這是一個基於Qwen/Qwen3-30B-A3B轉換至MLX格式的4位量化模型，適用於文本生成任務。

基於Qwen2.5架構的3B參數指令微調模型，使用Unsloth和Huggingface TRL庫優化訓練速度

Qwen3-30B-A3B-4bit-DWQ-0508是基於Qwen/Qwen3-30B-A3B轉換至MLX格式的4位量化模型，適用於文本生成任務。

Qwen3-14B-4bit-AWQ是基於Qwen/Qwen3-14B轉換而來的MLX格式模型，使用AWQ量化技術將模型壓縮至4bit，適用於MLX框架的高效推理。

Qwen3-8B-4bit-DWQ 是基於 Qwen/Qwen3-8B 轉換至 MLX 格式的 4 位量化版本，適用於在 Apple 設備上高效運行。

這是一個基於微軟Phi-4-mini-reasoning模型轉換的MLX格式4位量化版本，適用於文本生成任務。

基於Qwen3-1.7B的4位量化版本，適用於MLX框架的輕量級大語言模型

Qwen3-8B-4bit-AWQ 是基於 Qwen/Qwen3-8B 轉換的 4bit AWQ 量化版本，適用於 MLX 框架的文本生成任務。

該模型是基於Qwen/Qwen3-235B-A22B轉換至MLX格式的4位量化版本，適用於文本生成任務。

這是Qwen/Qwen3-8B模型的4位量化版本，已轉換為MLX框架格式，適用於蘋果芯片設備的高效推理。

Qwen3-30B-A3B-4bit是基於Qwen/Qwen3-30B-A3B轉換的4位量化版本，適用於在MLX框架下進行高效的文本生成任務。

Qwen3-4B-4bit 是從 Qwen/Qwen3-4B 轉換至 MLX 格式的 4 位量化版本，適用於在 Apple 芯片上高效運行。

Qwen3-1.7B-4bit是通義千問1.7B模型的4位量化版本，已轉換為MLX框架格式，便於在Apple Silicon設備上高效運行。

Qwen3-14B-4bit是基於Qwen/Qwen3-14B模型使用mlx-lm轉換的4位量化版本，適用於文本生成任務。

該模型是基於THUDM/GLM-Z1-32B-0414轉換的4位量化版本，適用於文本生成任務。

這是BAAI/bge-multilingual-gemma2模型的4位GPTQ量化版本，支持多語言文本嵌入任務。

UI-TARS-1.5-7B-4bit是一個多模態模型，專注於圖像文本到文本的轉換任務，支持英文語言。

Dia-1.6B-4bit 是一個基於 MLX 格式的 4 位量化文本轉語音模型，由 nari-labs/Dia-1.6B 轉換而來。

VL-Rethinker-72B-4bit是一個基於Qwen2.5-VL-7B-Instruct的多模態模型，支持視覺問答任務，已轉換為MLX格式以便在蘋果設備上高效運行。

這是一個基於MLX格式轉換的德語文本轉語音模型，支持德語語言處理任務。

基於Qwen2.5-VL-3B模型的微調版本，使用Unsloth和Huggingface TRL庫進行訓練，推理速度提升2倍

這是一個基於allenai/OLMo-2-0325-32B-Instruct模型轉換的4位量化版本，專為MLX框架優化，適用於文本生成任務。

TraceBack 12b 是基於 Mistral-Nemo-Instruct 架構的 4bit 量化版本，專注於指令遵循和思維鏈推理任務。

基於deepseek-ai/Janus-Pro-1B的4位量化版本，適用於Apple芯片的MLX框架

這是DeepSeek-R1-Distill-Qwen-32B模型的MLX 4-bit量化版本，適用於蘋果芯片設備的高效推理

基於Unsloth優化的視覺指令微調模型，支持多模態任務處理

基於Meta-Llama-3.1-8B-Instruct的4位量化版本，使用Unsloth和TRL庫進行高效訓練

基於Meta-Llama-3.1-8B-Instruct的4位量化版本，使用Unsloth和Huggingface TRL庫進行訓練，速度提升2倍。