Qwen3 4B GGUF

🚀 Qwen3-4B-GGUF

Qwen3是通義系列的最新一代大語言模型，提供了一系列全面的密集模型和專家混合（MoE）模型。基於大量的訓練數據，Qwen3在推理、指令遵循、智能體能力和多語言支持等方面取得了突破性進展。

📚 詳細文檔

模型文件

量化模型使用說明

（按大小排序，不一定代表質量。IQ量化通常比類似大小的非IQ量化更優）

以下是ikawrakow提供的一個方便的圖表，比較了一些低質量量化類型（值越低越好）：

📄 許可證

本項目採用Apache-2.0許可證。