Smart Lemon Cookie 7B GGUF

🚀 Smart Lemon Cookie 7B-GGUF

このリポジトリは、ローカルAIチャットアプリ「Backyard AI」で使用するためのGGUF形式モデルの公式ライブラリです。ローカル環境でのAIチャットを快適に行うことができます。

🚀 クイックスタート

• Backyard AIをここからダウンロードして始めましょう。
• r/LLM_Quantsで追加モデルをリクエストすることができます。

✨ 主な機能

モデル情報

Smart Lemon Cookie 7Bの特徴

• 作成者: FallenMerick
• 元モデル: Smart Lemon Cookie 7B
• 作成日: 2024-04-30
• 学習コンテキスト: 32768トークン
• 説明: FallenMerickによる無制限のロールプレイモデルで、優れた推論能力とコンテキスト追従能力を持っています。Multi-Verse-Modelをベースに、Silicon MaidとKunoichiをマージして強力なロールプレイ能力を持ち、LemonadeRPをマージして物語作成スキルを備えています。

GGUF形式の特徴

GGUFは、CPUとGPU間で分割できる大規模言語モデル（LLM）の形式です。GGUFはllama.cppベースのアプリケーション（Backyard AIなど）と互換性があります。他のモデル形式が十分なVRAMを持つハイエンドGPUを必要とするのに対し、GGUFは幅広いハードウェアで効率的に実行できます。

GGUFモデルは、リソース使用量を削減するために量子化されていますが、低い量子化レベルでは一貫性が低下するトレードオフがあります。量子化は、各重みに使用するビット数を変更することでモデルの重みの精度を下げます。

Backyard AIの特徴

• 無料でローカルのAIチャットアプリ：無料で利用でき、ローカル環境で動作します。
• MacとPCでワンクリックインストール：簡単にインストールできます。
• 自動的にGPUを使用して最大速度を実現：GPUを自動的に利用して高速な処理を行います。
• 内蔵モデルマネージャー：最新のモデルを簡単に見つけることができます。
• 高品質のキャラクターハブ：様々なキャラクターを利用できます。
• ゼロコンフィグのデスクトップとモバイルの接続：簡単にデスクトップとモバイルを接続できます。

Backyard AIを使うと、独自のキャラクターや内蔵のキャラクターハブにあるキャラクターを使ってAIとのチャットを簡単に始めることができます。モデルマネージャーは、正しい形式のモデルを心配することなく最新の素晴らしいモデルを見つけるのに役立ちます。Backyard AIは、ロアブック、作者注、テキストフォーマット、カスタムコンテキストサイズ、サンプラー設定、文法、ローカルTTS、クラウド推論、接続などの高度な機能を、簡単かつ信頼性の高い方法で実装しています。

Discordで私たちに参加しましょう