FPHam-Sydney_Overthinker_13b_HF-GGUF开源模型 - 优化量化文件提升性能，小额付费运行所需模型

Fpham Sydney Overthinker 13b HF GGUF

由 featherless-ai-quants 开发

该项目提供了优化后的GGUF量化文件，可显著提升模型性能。这些量化文件由Featherless AI提供支持，用户只需支付少量费用，即可运行任意所需模型。

下载量 133

发布时间 : 6/4/2025

模型简介

Sydney_Overthinker_13b_HF模型的GGUF量化版本，适用于高效推理和部署。

多种量化选项

提供从IQ4_XS到Q8_0共11种不同级别的量化文件，满足不同性能和资源需求。

高效推理

通过量化技术显著降低模型运行时的资源消耗，提升推理速度。

便捷部署

无需复杂设置，即可在各种硬件上快速部署模型。

文本生成

对话系统

内容创作

内容创作

文章写作

帮助用户生成高质量的文章内容

提升创作效率

对话系统

构建智能聊天机器人

提供流畅自然的对话体验

教育

学习辅助

帮助学生解答问题、提供学习建议

提升学习效率

量化类型	文件	大小
IQ4_XS	FPHam-Sydney_Overthinker_13b_HF-IQ4_XS.gguf	6694.33 MB
Q2_K	FPHam-Sydney_Overthinker_13b_HF-Q2_K.gguf	4629.39 MB
Q3_K_L	FPHam-Sydney_Overthinker_13b_HF-Q3_K_L.gguf	6608.54 MB
Q3_K_M	FPHam-Sydney_Overthinker_13b_HF-Q3_K_M.gguf	6044.17 MB
Q3_K_S	FPHam-Sydney_Overthinker_13b_HF-Q3_K_S.gguf	5396.82 MB
Q4_K_M	FPHam-Sydney_Overthinker_13b_HF-Q4_K_M.gguf	7501.56 MB
Q4_K_S	FPHam-Sydney_Overthinker_13b_HF-Q4_K_S.gguf	7079.30 MB
Q5_K_M	FPHam-Sydney_Overthinker_13b_HF-Q5_K_M.gguf	8802.34 MB
Q5_K_S	FPHam-Sydney_Overthinker_13b_HF-Q5_K_S.gguf	8556.64 MB
Q6_K	FPHam-Sydney_Overthinker_13b_HF-Q6_K.gguf	10184.42 MB
Q8_0	FPHam-Sydney_Overthinker_13b_HF-Q8_0.gguf	13190.57 MB