Smart Lemon Cookie 7B GGUF

🚀 Smart Lemon Cookie 7B-GGUF

這是一個基於GGUF格式的模型庫，適用於本地AI聊天應用Backyard AI。它能讓你在本地設備上輕鬆使用AI進行聊天，且支持多種硬件，為用戶帶來便捷的AI交互體驗。

🚀 快速開始

點擊下方鏈接下載Backyard AI開始使用： 點擊此處下載Backyard AI

若你需要其他模型，可在以下Reddit社區提出請求： 在r/LLM_Quants請求其他模型

✨ 主要特性

模型信息

GGUF格式優勢

GGUF是一種大語言模型（LLM）格式，可在CPU和GPU之間進行拆分。GGUF與基於llama.cpp的應用程序兼容，例如Backyard AI。與其他需要高端GPU和大量VRAM的模型格式不同，GGUF可以在更廣泛的硬件上高效運行。

GGUF模型經過量化以減少資源使用，但較低的量化級別會導致連貫性降低。量化通過更改每個權重使用的位數來降低模型權重的精度。

Backyard AI應用特點

• 免費本地應用：Backyard AI是一款免費的本地AI聊天應用。
• 一鍵安裝：可在Mac和PC上一鍵安裝。
• 自動GPU加速：自動使用GPU以實現最高速度。
• 內置模型管理器：幫助你輕鬆找到最新和最優秀的模型，無需擔心格式問題。
• 高質量角色中心：提供豐富的角色供你選擇。
• 零配置桌面到移動設備連接：方便在不同設備間使用。

Backyard AI讓你可以輕鬆使用自己的角色或內置角色中心中的角色與AI聊天。它還支持諸如背景故事書、作者註釋、文本格式設置、自定義上下文大小、採樣器設置、語法、本地文本轉語音、雲推理和設備連接等高級功能，且實現方式簡單可靠。

加入我們的Discord社區