Lemonaderp 4.5.3 4bpw Exl2

🚀 LemonadeRP-4.5.3 4bpw

KatyTheCutie/LemonadeRP-4.5.3のExllama量子化モデルです。

7Bのロールプレイに特化したモデルで、このマージの焦点は創造性と陳腐さの排除です。

✨ 主な機能

このモデルはロールプレイに特化しており、創造性に富んだレスポンスを生成し、陳腐な表現を避けることができます。

📚 ドキュメント

🔍 他の量子化モデル

EXL2: 8bpw、6bpw、5bpw、4bpw

💬 プロンプトフォーマット: Chatml

このモデルに使用する適切なフォーマットはChatmlです。

<|im_start|>system
{sysprompt}<|im_end|>
<|im_start|>user
{input}<|im_end|>
<|im_start|>assistant
{output}<|im_end|>

📄 ライセンス

このモデルはCC-BY-4.0ライセンスの下で提供されています。

📞 連絡先

DiscordではKootenです。 もし支援したい場合はko-fi.com/kootenから支援できます。