Darksapling V1.1 Ultra Quality 7B GGUF

🚀 Dark Sapling V1.1 7B - 32k上下文 - 超高质量 - 32位提升

Dark Sapling V1.1 7B - 32k上下文模型，基于源文件进行了全面重新合并和重制。该模型在创意写作、角色扮演等文本生成任务中表现出色，能够提供高质量的文本输出。

📚 详细文档

模型重制亮点

从源文件对令人惊叹的Dark Sapling V1.1 7B - 32k上下文模型进行了完全的重新合并和重制。在Q4KM测试中，表现令人印象深刻，得分下降了240点（数值越低越好）。这使得“Q4KM”的运行水平达到了“Q6”级别，同时也进一步提升了Q6和Q8的表现。同样，即使是Q2K（最小量化）也将比其原始版本有更高的性能表现。

模型效果

• 性能提升：在指令遵循、推理、深度、细微差别和情感表达方面表现卓越。
• 提示词优化：由于能更好地理解细微差别，提示词的大小得以减少。
• 上下文增加：提示词大小的减少带来了更多的输出上下文。

需要注意的是，不同量化版本之间会存在显著差异，特别是在创意和“没有唯一正确答案”的应用场景中。因此，建议下载你能运行的最高量化版本及其相近版本，例如Q4KS、Q4KM、Q5KS。

特别感谢

特别感谢原模型创建者“TEEZEE”，其原模型链接为：[ https://huggingface.co/TeeZee/DarkSapling-7B-v1.1 ]

版本说明

注意：版本1和版本2也进行了重制。

高质量设置/最佳操作指南/参数和采样器

这是一个“1类”模型。有关该模型使用的所有设置（包括其“类别”的具体设置），包括示例生成以及高级设置指南（很多时候可以解决任何模型问题），包括提高所有用例以及聊天、角色扮演和其他用例的模型性能的方法，请参阅：[ https://huggingface.co/DavidAU/Maximizing-Model-Performance-All-Quants-Types-And-Full-Precision-by-Samplers_Parameters ]

📄 许可证

本项目采用Apache-2.0许可证。