# 聊天对话优化

DeepSeek-R1-0528-4bit 是一个基于 DeepSeek-R1-0528 转换而来的 4 位量化模型，专为 MLX 框架优化。

这是THUDM/GLM-4-32B-0414模型的MLX格式版本，经过4位DWQ量化处理，适用于苹果芯片设备的高效推理。

这是Qwen3-8B模型的量化版本，使用llama.cpp进行imatrix量化，适用于聊天场景。

这是一个基于Qwen3-30B-A3B模型的4位量化版本，通过从6位量化蒸馏至4位定制的DWQ量化技术制作，适用于文本生成任务。

基于Qwen3-8B优化的8位量化版本，适用于MLX框架的高效推理

这是一个基于Qwen3-4B模型转换到MLX格式的4位量化版本，适用于文本生成任务。

GLM-4-32B-0414-4bit 是基于 THUDM/GLM-4-32B-0414 转换而来的 MLX 格式模型，支持中英文文本生成任务。

Tessa-T1-3B是基于Qwen2架构的3B参数大语言模型，提供多种量化版本以适应不同硬件需求。

PiVoT是基于Mistral 7B微调的模型，从Synatra v0.3 RP衍生出的变体，展现出不错的性能表现。