Lemonaderp 4.5.3 4bpw Exl2

🚀 LemonadeRP-4.5.3 4bpw

這是 KatyTheCutie/LemonadeRP-4.5.3 的Exllama量化版本。該模型是一個專注於角色扮演的7B模型，注重創造力且減少陳詞濫調。

🚀 快速開始

本項目是 KatyTheCutie/LemonadeRP-4.5.3 的Exllama量化版本，是一個專注於角色扮演的7B模型，強調創造力和避免陳詞濫調。

📄 許可證

本項目採用CC BY 4.0許可證。

🔗 其他量化版本

EXL2量化版本：

• 8bpw
• 6bpw
• 5bpw
• 4bpw

💻 使用示例

提示格式：Chatml

基於構建此模型所使用的模型，推測Chatml是合適的提示格式。

<|im_start|>system
{sysprompt}<|im_end|>
<|im_start|>user
{input}<|im_end|>
<|im_start|>assistant
{output}<|im_end|>

📞 聯繫信息

• Discord：Kooten
• 如果你想支持我，可以訪問 ko-fi.com/kooten 。