🚀 UniReason-Qwen3-14B-RL 量化模型
本項目提供了 ReasoningTransferability/UniReason-Qwen3-14B-RL
模型的量化版本,可用於文本生成、數學推理等任務,提升模型在不同場景下的可用性和性能。
🚀 快速開始
若你不確定如何使用 GGUF 文件,請參考 TheBloke 的 README 以獲取更多詳細信息,包括如何拼接多部分文件。
✨ 主要特性
- 多領域適用:適用於文本生成、數學推理等多個領域。
- 多種量化類型:提供多種不同大小和質量的量化版本供選擇。
📚 詳細文檔
模型信息
屬性 |
詳情 |
arxiv |
2507.00432 |
基礎模型 |
ReasoningTransferability/UniReason-Qwen3-14B-RL |
數據集 |
math、reasoning |
語言 |
英文 |
庫名稱 |
transformers |
許可證 |
apache-2.0 |
量化者 |
mradermacher |
標籤 |
text-generation、math-reasoning、transferability、RL - GRPO、research - paper、qwen |
關於模型
本項目提供了 https://huggingface.co/ReasoningTransferability/UniReason-Qwen3-14B-RL 的加權/imatrix 量化版本。靜態量化文件可在 https://huggingface.co/mradermacher/UniReason-Qwen3-14B-RL-GGUF 獲取。
提供的量化版本
(按大小排序,不一定代表質量。IQ 量化通常優於類似大小的非 IQ 量化)
鏈接 |
類型 |
大小/GB |
備註 |
GGUF |
i1-IQ1_S |
3.7 |
適用於資源緊張情況 |
GGUF |
i1-IQ1_M |
3.9 |
多數情況下用於資源緊張情況 |
GGUF |
i1-IQ2_XXS |
4.4 |
|
GGUF |
i1-IQ2_XS |
4.8 |
|
GGUF |
i1-IQ2_S |
5.1 |
|
GGUF |
i1-IQ2_M |
5.4 |
|
GGUF |
i1-Q2_K_S |
5.5 |
質量非常低 |
GGUF |
i1-Q2_K |
5.9 |
IQ3_XXS 可能更好 |
GGUF |
i1-IQ3_XXS |
6.0 |
質量較低 |
GGUF |
i1-IQ3_XS |
6.5 |
|
GGUF |
i1-Q3_K_S |
6.8 |
IQ3_XS 可能更好 |
GGUF |
i1-IQ3_S |
6.8 |
優於 Q3_K* |
GGUF |
i1-IQ3_M |
7.0 |
|
GGUF |
i1-Q3_K_M |
7.4 |
IQ3_S 可能更好 |
GGUF |
i1-Q3_K_L |
8.0 |
IQ3_M 可能更好 |
GGUF |
i1-IQ4_XS |
8.2 |
|
GGUF |
i1-IQ4_NL |
8.6 |
優先選擇 IQ4_XS |
GGUF |
i1-Q4_0 |
8.6 |
速度快,質量低 |
GGUF |
i1-Q4_K_S |
8.7 |
大小/速度/質量最優 |
GGUF |
i1-Q4_K_M |
9.1 |
速度快,推薦使用 |
GGUF |
i1-Q4_1 |
9.5 |
|
GGUF |
i1-Q5_K_S |
10.4 |
|
GGUF |
i1-Q5_K_M |
10.6 |
|
GGUF |
i1-Q6_K |
12.2 |
實際上類似於靜態 Q6_K |
以下是 ikawrakow 提供的比較一些低質量量化類型的便捷圖表(數值越低越好):

另外,Artefact2 對此事的看法可參考:https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9
常見問題與模型請求
若你有相關問題或希望對其他模型進行量化,請查看 https://huggingface.co/mradermacher/model_requests。
📄 許可證
本項目採用 apache-2.0
許可證。
🙏 致謝
感謝我的公司 nethype GmbH 允許我使用其服務器,並對我的工作站進行升級,使我能夠在業餘時間完成這項工作。此外,感謝 @nicoboss 讓我使用他的私人超級計算機,使我能夠提供更多、質量更高的 imatrix 量化版本。