# 大語言模型

騰訊混元A13B大語言模型的4bit量化版本，適用於指令跟隨任務

這是一個基於Qwen3-30B模型轉換而來的4位量化版本，適用於MLX框架的文本生成任務。

Kimi-Dev-72B的量化版本，採用先進的非線性最優量化和多頭潛在注意力機制，減少存儲和計算需求。

Delta-Vector的Austral-24B-Winton模型的量化版本，使用llama.cpp工具進行量化處理，適用於不同硬件配置的高效運行。

基於DeepSeek-R1-0528-Qwen3-8B模型轉換的6位量化版本，適用於MLX框架的文本生成任務。

這是一個基於Qwen3-235B-A22B-8bit模型轉換而來的4位量化版本，專為MLX框架優化，適用於文本生成任務。

該模型是基於 deepseek-ai/deepseek-r1-0528-Qwen3-8B 轉換的 MLX 格式版本，適用於蘋果設備的本地推理。

DeepSeek-R1-0528 是一個大型語言模型，經過量化處理以優化在不同硬件上的運行效率。

FairyR1-32B 是一個32B參數規模的大型語言模型，由PKU-DS-LAB開發，專注於文本生成任務。

這是THUDM/GLM-4-32B-0414模型的MLX格式版本，經過4位DWQ量化處理，適用於蘋果芯片設備的高效推理。

Qwen3-32B-8bit是基於Qwen3-32B模型量化的8位版本，適用於文本生成任務，由mlx-community發佈。

Qwen3-235B-A22B-4bit-DWQ是基於Qwen3-235B-A22B-8bit模型轉換而來的4位量化版本，適用於文本生成任務。

Gemma 3 12B模型的4位量化版本，適用於MLX框架，支持高效文本生成任務。

Qwen2.5-Coder-7B-Instruct 是一個基於 Qwen2.5 架構的 7B 參數規模的代碼生成模型，專注於指令微調，適用於代碼生成和編程輔助任務。

這是一個基於Qwen/Qwen3-235B-A22B模型轉換而來的混合3-6位量化版本，適用於蘋果MLX框架的高效推理。

Qwen2.5-VL-72B-Instruct的多模態大語言模型量化版本，支持圖像文本到文本任務，適用於多種量化級別，從高精度到低內存需求。

這是一個基於Qwen/Qwen3-30B-A3B轉換至MLX格式的4位量化模型，適用於文本生成任務。

Qwen3-30B-A3B-4bit-DWQ-0508是基於Qwen/Qwen3-30B-A3B轉換至MLX格式的4位量化模型，適用於文本生成任務。

由NVIDIA開發的開源代碼推理大語言模型，參數規模為140億，專注於代碼生成和推理任務。

基於Qwen3-30B-A3B導出的MNN模型，經過4位量化後的版本，適用於高效推理。

Qwen3-14B-4bit-AWQ是基於Qwen/Qwen3-14B轉換而來的MLX格式模型，使用AWQ量化技術將模型壓縮至4bit，適用於MLX框架的高效推理。

基於Qwen3-8B的俄語優化大語言模型，專為俄語文本生成任務設計

這是一個基於Qwen3-30B-A3B模型的4位量化版本，通過從6位量化蒸餾至4位定製的DWQ量化技術製作，適用於文本生成任務。

Qwen3 30B A3B是一個採用GPTQ方法進行8位量化處理的大語言模型，適用於高效推理場景。

Qwen3-8B-4bit-AWQ 是基於 Qwen/Qwen3-8B 轉換的 4bit AWQ 量化版本，適用於 MLX 框架的文本生成任務。

Qwen3-30B-A3B的GGUF量化版本，支持多種比特量化，適用於文本生成任務。

該模型是基於Qwen/Qwen3-235B-A22B轉換至MLX格式的4位量化版本，適用於文本生成任務。

該模型是基於Qwen/Qwen3-30B-A3B轉換而來的MLX格式模型，支持8位量化，適用於文本生成任務。

Qwen3-30B-A3B-MLX-8bit 是基於 Qwen/Qwen3-30B-A3B 轉換的 8 位量化版本，專為 MLX 框架優化，適用於文本生成任務。

Qwen3-8B-bf16 是基於 Qwen/Qwen3-8B 轉換的 MLX 格式模型，支持文本生成任務。

Qwen3-30B-A3B-8bit 是 Qwen/Qwen3-30B-A3B 模型的 MLX 格式轉換版本，支持在 Apple 芯片上高效運行。

Qwen3-30B-A3B-4bit是基於Qwen/Qwen3-30B-A3B轉換的4位量化版本，適用於在MLX框架下進行高效的文本生成任務。

該模型是Qwen3-32B的MLX格式4位量化版本，專為在Apple Silicon設備上高效運行而優化。

Qwen3-14B-4bit是基於Qwen/Qwen3-14B模型使用mlx-lm轉換的4位量化版本，適用於文本生成任務。

GLM-4-32B-0414-abliterated 是一個基於 GLM 架構的大規模語言模型，參數規模為 32B，適用於文本生成任務。

該模型是基於THUDM/GLM-Z1-32B-0414轉換的4位量化版本，適用於文本生成任務。

這是一個基於Qwen2.5-32B的合併模型，融合了DeepSeek-R1-Distill-Qwen-32B、QwQ-32B和Sky-T1-32B-Flash的特點，旨在提升性能。

該模型是從THUDM/GLM-4-32B-0414轉換而來的8位量化MLX格式大語言模型，支持中英文文本生成任務。

GLM-4-32B-0414是THUDM團隊開發的大規模語言模型，基於GLM架構，適用於多種文本生成任務。

Qwen2.5-VL-72B-Instruct的FP8量化版本，支持視覺-文本輸入和文本輸出，由Neural Magic優化發佈。