Blitzar Coder 4B F.1 GGUF

🚀 Blitzar-Coder-4B-F.1-GGUF

Blitzar-Coder-4B-F.1是一个高效的多语言编码模型，它基于Qwen3-4B，使用涵盖Python、Java、C#、C++、C、Go、JavaScript、TypeScript、Rust等10多种编程语言的大型编码轨迹数据集进行微调。该模型具备出色的代码生成、调试和推理能力，是开发者在计算资源受限情况下寻求高级编程辅助的理想工具。

📚 详细文档

模型文件

推荐使用方式

• Q4_K_M 或 Q5_K_M：对大多数用户而言，在质量和性能之间达到了最佳平衡。
• Q6_K 或 Q8_0：质量更高，但文件大小更大。
• Q2_K 或 Q3_K_S：推理速度最快，但质量较低。
• F16 或 BF16：质量高，但需要更多的显存。
• F32：质量最高，但需要大量的显存。

量化使用说明

（按大小排序，不一定按质量排序。IQ量化通常比类似大小的非IQ量化更可取）

以下是ikawrakow制作的一个方便的图表，比较了一些低质量量化类型（数值越低越好）：

📄 许可证

本项目采用Apache-2.0许可证。