🚀 UniReason-Qwen3-14B-RL 量化模型
本项目提供了 ReasoningTransferability/UniReason-Qwen3-14B-RL
模型的量化版本,可用于文本生成、数学推理等任务,提升模型在不同场景下的可用性和性能。
🚀 快速开始
若你不确定如何使用 GGUF 文件,请参考 TheBloke 的 README 以获取更多详细信息,包括如何拼接多部分文件。
✨ 主要特性
- 多领域适用:适用于文本生成、数学推理等多个领域。
- 多种量化类型:提供多种不同大小和质量的量化版本供选择。
📚 详细文档
模型信息
属性 |
详情 |
arxiv |
2507.00432 |
基础模型 |
ReasoningTransferability/UniReason-Qwen3-14B-RL |
数据集 |
math、reasoning |
语言 |
英文 |
库名称 |
transformers |
许可证 |
apache-2.0 |
量化者 |
mradermacher |
标签 |
text-generation、math-reasoning、transferability、RL - GRPO、research - paper、qwen |
关于模型
本项目提供了 https://huggingface.co/ReasoningTransferability/UniReason-Qwen3-14B-RL 的加权/imatrix 量化版本。静态量化文件可在 https://huggingface.co/mradermacher/UniReason-Qwen3-14B-RL-GGUF 获取。
提供的量化版本
(按大小排序,不一定代表质量。IQ 量化通常优于类似大小的非 IQ 量化)
链接 |
类型 |
大小/GB |
备注 |
GGUF |
i1-IQ1_S |
3.7 |
适用于资源紧张情况 |
GGUF |
i1-IQ1_M |
3.9 |
多数情况下用于资源紧张情况 |
GGUF |
i1-IQ2_XXS |
4.4 |
|
GGUF |
i1-IQ2_XS |
4.8 |
|
GGUF |
i1-IQ2_S |
5.1 |
|
GGUF |
i1-IQ2_M |
5.4 |
|
GGUF |
i1-Q2_K_S |
5.5 |
质量非常低 |
GGUF |
i1-Q2_K |
5.9 |
IQ3_XXS 可能更好 |
GGUF |
i1-IQ3_XXS |
6.0 |
质量较低 |
GGUF |
i1-IQ3_XS |
6.5 |
|
GGUF |
i1-Q3_K_S |
6.8 |
IQ3_XS 可能更好 |
GGUF |
i1-IQ3_S |
6.8 |
优于 Q3_K* |
GGUF |
i1-IQ3_M |
7.0 |
|
GGUF |
i1-Q3_K_M |
7.4 |
IQ3_S 可能更好 |
GGUF |
i1-Q3_K_L |
8.0 |
IQ3_M 可能更好 |
GGUF |
i1-IQ4_XS |
8.2 |
|
GGUF |
i1-IQ4_NL |
8.6 |
优先选择 IQ4_XS |
GGUF |
i1-Q4_0 |
8.6 |
速度快,质量低 |
GGUF |
i1-Q4_K_S |
8.7 |
大小/速度/质量最优 |
GGUF |
i1-Q4_K_M |
9.1 |
速度快,推荐使用 |
GGUF |
i1-Q4_1 |
9.5 |
|
GGUF |
i1-Q5_K_S |
10.4 |
|
GGUF |
i1-Q5_K_M |
10.6 |
|
GGUF |
i1-Q6_K |
12.2 |
实际上类似于静态 Q6_K |
以下是 ikawrakow 提供的比较一些低质量量化类型的便捷图表(数值越低越好):

另外,Artefact2 对此事的看法可参考:https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9
常见问题与模型请求
若你有相关问题或希望对其他模型进行量化,请查看 https://huggingface.co/mradermacher/model_requests。
📄 许可证
本项目采用 apache-2.0
许可证。
🙏 致谢
感谢我的公司 nethype GmbH 允许我使用其服务器,并对我的工作站进行升级,使我能够在业余时间完成这项工作。此外,感谢 @nicoboss 让我使用他的私人超级计算机,使我能够提供更多、质量更高的 imatrix 量化版本。