# 4bit量化

DiffuCoder-7B-cpGRPO-4bit 是一个基于苹果 DiffuCoder-7B-cpGRPO 模型转换而来的 4 位量化版本，专为 MLX 框架优化。

腾讯混元A13B大语言模型的4bit量化版本，适用于指令跟随任务

这是一个基于Qwen3-30B模型转换而来的4位量化版本，适用于MLX框架的文本生成任务。

这是一个基于Qwen3-235B-A22B-8bit模型转换而来的4位量化版本，专为MLX框架优化，适用于文本生成任务。

该模型是基于DeepSeek-R1-0528-Qwen3-8B转换的4位量化版本，专为MLX框架优化，适用于文本生成任务。

DeepSeek-R1-0528-4bit 是一个基于 DeepSeek-R1-0528 转换而来的 4 位量化模型，专为 MLX 框架优化。

基于Llama 3.3 70B指令微调模型的4位DWQ量化版本，适用于MLX框架的高效推理

这是一个基于MLX格式的4位量化语言模型，适用于文本生成任务。

MedGemma-27B-Text-IT-4bit是基于Google的MedGemma-27B-Text-IT模型转换而来的MLX格式模型，专为医疗和临床推理任务优化。

MedGemma-4B-IT-4bit 是一个专为医学领域设计的视觉语言模型，支持图像和文本处理，适用于医学图像分析等任务。

这是一个基于Google Gemma 3 27B IT模型转换的4位量化版本，专为MLX框架优化。

Qwen3-235B-A22B-4bit-DWQ是基于Qwen3-235B-A22B-8bit模型转换而来的4位量化版本，适用于文本生成任务。

该模型是Qwen3-4B的4位DWQ量化版本，转换为MLX格式，方便使用mlx库进行文本生成。

这是一个基于Qwen/Qwen3-30B-A3B转换至MLX格式的4位量化模型，适用于文本生成任务。

基于Qwen2.5架构的3B参数指令微调模型，使用Unsloth和Huggingface TRL库优化训练速度

Qwen3-30B-A3B-4bit-DWQ-0508是基于Qwen/Qwen3-30B-A3B转换至MLX格式的4位量化模型，适用于文本生成任务。

Qwen3-14B-4bit-AWQ是基于Qwen/Qwen3-14B转换而来的MLX格式模型，使用AWQ量化技术将模型压缩至4bit，适用于MLX框架的高效推理。

Qwen3-8B-4bit-DWQ 是基于 Qwen/Qwen3-8B 转换至 MLX 格式的 4 位量化版本，适用于在 Apple 设备上高效运行。

这是一个基于微软Phi-4-mini-reasoning模型转换的MLX格式4位量化版本，适用于文本生成任务。

基于Qwen3-1.7B的4位量化版本，适用于MLX框架的轻量级大语言模型

Qwen3-8B-4bit-AWQ 是基于 Qwen/Qwen3-8B 转换的 4bit AWQ 量化版本，适用于 MLX 框架的文本生成任务。

该模型是基于Qwen/Qwen3-235B-A22B转换至MLX格式的4位量化版本，适用于文本生成任务。

这是Qwen/Qwen3-8B模型的4位量化版本，已转换为MLX框架格式，适用于苹果芯片设备的高效推理。

Qwen3-30B-A3B-4bit是基于Qwen/Qwen3-30B-A3B转换的4位量化版本，适用于在MLX框架下进行高效的文本生成任务。

Qwen3-4B-4bit 是从 Qwen/Qwen3-4B 转换至 MLX 格式的 4 位量化版本，适用于在 Apple 芯片上高效运行。

Qwen3-1.7B-4bit是通义千问1.7B模型的4位量化版本，已转换为MLX框架格式，便于在Apple Silicon设备上高效运行。

Qwen3-14B-4bit是基于Qwen/Qwen3-14B模型使用mlx-lm转换的4位量化版本，适用于文本生成任务。

该模型是基于THUDM/GLM-Z1-32B-0414转换的4位量化版本，适用于文本生成任务。

这是BAAI/bge-multilingual-gemma2模型的4位GPTQ量化版本，支持多语言文本嵌入任务。

UI-TARS-1.5-7B-4bit是一个多模态模型，专注于图像文本到文本的转换任务，支持英文语言。

Dia-1.6B-4bit 是一个基于 MLX 格式的 4 位量化文本转语音模型，由 nari-labs/Dia-1.6B 转换而来。

VL-Rethinker-72B-4bit是一个基于Qwen2.5-VL-7B-Instruct的多模态模型，支持视觉问答任务，已转换为MLX格式以便在苹果设备上高效运行。

这是一个基于MLX格式转换的德语文本转语音模型，支持德语语言处理任务。

基于Qwen2.5-VL-3B模型的微调版本，使用Unsloth和Huggingface TRL库进行训练，推理速度提升2倍

这是一个基于allenai/OLMo-2-0325-32B-Instruct模型转换的4位量化版本，专为MLX框架优化，适用于文本生成任务。

TraceBack 12b 是基于 Mistral-Nemo-Instruct 架构的 4bit 量化版本，专注于指令遵循和思维链推理任务。

基于deepseek-ai/Janus-Pro-1B的4位量化版本，适用于Apple芯片的MLX框架

这是DeepSeek-R1-Distill-Qwen-32B模型的MLX 4-bit量化版本，适用于苹果芯片设备的高效推理

基于Unsloth优化的视觉指令微调模型，支持多模态任务处理

基于Meta-Llama-3.1-8B-Instruct的4位量化版本，使用Unsloth和TRL库进行高效训练