Darksapling V1.1 Ultra Quality 7B GGUF

🚀 Dark Sapling V1.1 7B - 32k上下文 - 超高質量 - 32位提升

Dark Sapling V1.1 7B - 32k上下文模型，基於源文件進行了全面重新合併和重製。該模型在創意寫作、角色扮演等文本生成任務中表現出色，能夠提供高質量的文本輸出。

📚 詳細文檔

模型重製亮點

從源文件對令人驚歎的Dark Sapling V1.1 7B - 32k上下文模型進行了完全的重新合併和重製。在Q4KM測試中，表現令人印象深刻，得分下降了240點（數值越低越好）。這使得“Q4KM”的運行水平達到了“Q6”級別，同時也進一步提升了Q6和Q8的表現。同樣，即使是Q2K（最小量化）也將比其原始版本有更高的性能表現。

模型效果

• 性能提升：在指令遵循、推理、深度、細微差別和情感表達方面表現卓越。
• 提示詞優化：由於能更好地理解細微差別，提示詞的大小得以減少。
• 上下文增加：提示詞大小的減少帶來了更多的輸出上下文。

需要注意的是，不同量化版本之間會存在顯著差異，特別是在創意和“沒有唯一正確答案”的應用場景中。因此，建議下載你能運行的最高量化版本及其相近版本，例如Q4KS、Q4KM、Q5KS。

特別感謝

特別感謝原模型創建者“TEEZEE”，其原模型鏈接為：[ https://huggingface.co/TeeZee/DarkSapling-7B-v1.1 ]

版本說明

注意：版本1和版本2也進行了重製。

高質量設置/最佳操作指南/參數和採樣器

這是一個“1類”模型。有關該模型使用的所有設置（包括其“類別”的具體設置），包括示例生成以及高級設置指南（很多時候可以解決任何模型問題），包括提高所有用例以及聊天、角色扮演和其他用例的模型性能的方法，請參閱：[ https://huggingface.co/DavidAU/Maximizing-Model-Performance-All-Quants-Types-And-Full-Precision-by-Samplers_Parameters ]

📄 許可證

本項目採用Apache-2.0許可證。