Lucid V1 Nemo

🚀 ルーシッド（Lucid）

ルーシッド（Lucid）は、DreamGenによって開発され、使用されているAI言語モデルのシリーズです。ロールプレイとストーリーライティング能力に特化しており、様々なシナリオでの活用が期待できます。

🚀 クイックスタート

ルーシッド（Lucid）は、ロールプレイやストーリーライティングに特化したAI言語モデルです。以下のセクションでは、このモデルの使い方や機能について詳しく説明します。

✨ 主な機能

• ロールプレイとストーリーライティングに特化：様々なジャンルのストーリーやロールプレイに対応し、ユーザーの指示に基づいて柔軟に応答します。
• マルチキャラクターロールプレイのサポート：複数のキャラクター間のやり取りを自動的に生成し、自然な会話を再現します。
• インラインの書き方指示（OOC）のサポート：ユーザーが直接プロットの展開やキャラクターの行動を指示することができます。
• インラインの書き方支援のサポート：次のシーンの計画や新しいキャラクターの提案など、書き方の支援を行います。
• 推論機能（オプトイン）：特定の指示に基づいて、より深い思考を行い、回答を生成します。
• 詳細なREADME.mdとドキュメント：使い方の説明やサンプルコードが用意されており、初心者でも容易に始めることができます。

📦 インストール

ローカルAPIを使用する場合

以下のバックエンドを使用してモデルをローカルで実行することができます。ただし、出力時に特殊トークンをスキップしないように設定する必要があります。

• kobold.cpp
• llama.cpp サーバーコマンドに--specialを渡して、出力時に特殊トークンをスキップしないようにします。 例:

  llama-server --hf-repo dreamgen/lucid-v1-nemo-GGUF --hf-file lucid-v1-nemo-q8_0.gguf --special -c 8192
  

• exllamav2
• vLLM

DreamGen API（無料）を使用する場合

1. DreamGenアカウントを作成する：DreamGenにアクセスしてアカウントを作成します。
2. DreamGen APIキーを作成する：APIキーページにアクセスしてAPIキーを作成します。
3. APIに接続する：lucid-v1-medium/text（Mistral Nemo 12Bベースのモデル）またはlucid-v1-extra-large/text（Llama 70Bベースのモデル）を選択して接続します。

💻 使用例

基本的な使用法

# 以下は基本的なプロンプトの例です。
<|start_header_id|>system<|end_header_id|>

You are a reliable, general-purpose AI assistant.<|eot_id|><|start_header_id|>user<|end_header_id|>

Why is the sky blue?<|eot_id|><|start_header_id|>assistant<|end_header_id|>

The sky appears blue due to a phenomenon called **Rayleigh scattering**, a type of light scattering caused by tiny particles in the atmosphere. Here's a simplified breakdown:

...

高度な使用法

# 推論機能を使用する場合の例です。
<|start_header_id|>system<|end_header_id|>

You are a reliable, general-purpose AI assistant.<|eot_id|><|start_header_id|>user<|end_header_id|>

Why is the sky blue?

Think deeply before answering.<|eot_id|><|start_header_id|>assistant<|end_header_id|>

<|reasoning_start|>Okay, so I need to figure out why the sky is blue. Let me start by recalling what I know...

...<|reasoning_end|>The sky appears blue due to a phenomenon called **Rayleigh scattering**. Here's a concise breakdown:

...

📚 ドキュメント

プロンプトテンプレート

ルーシッド（Lucid）のプロンプトテンプレートは、Llama 3テンプレートを拡張したものです。以下は拡張部分の説明です。

ライティング

• 新しいwriterロールが追加されました。
• ストーリーライティング時には、writerメッセージヘッダは<|start_header_id|>writer<|end_header_id|>のようになります。
• ロールプレイ時には、キャラクターからのメッセージの場合は<|start_header_id|>writer character {{character_name}}<|end_header_id|>、ナレーターからのメッセージの場合は<|start_header_id|>writer narrative<|end_header_id|>となります。
• モデルはwriterヘッダを予測するように訓練されているため、一度に複数のメッセージを生成することができ、自然にキャラクターとナレーションを切り替えます。

推論

• 推論用の2つの新しいトークン<|reasoning_start|>と<|reasoning_end|>が追加されました。
• 推論はオプトインであり、システムプロンプトまたはユーザープロンプトにThink deeply before answering.（または類似の指示）を含めることで有効にすることができます。

ロールプレイとストーリーライティング

• system：ストーリーやロールプレイのシナリオを設定するために使用されます（例：プロット、設定、書き方スタイル、キャラクター説明など）。
• writer：ストーリーやロールプレイの内容を記述するために使用されます。
• user：指示（OOC）を提供するために使用されます（例：ストーリーの展開方法など）。
• assistant：書き方支援などの他のタスクに使用されます（例：次のシーンの計画、新しいキャラクターの提案など）。

サンプリングパラメータ

このREADMEの例では、以下のサンプリングパラメータが使用されています。

• ライティングには温度0.8、アシスタントタスクには温度0.6を使用します。
• Min P：0.05
• DRY乗数：0.8、ベース：1.75
• その他のサンプラーはニュートラル（繰り返し、存在、頻度のペナルティはなし）

SillyTavernの使用

SillyTavernは素晴らしいローカルフロントエンドです。主に1対1のロールプレイに適していますが、ストーリーライティングにも使用できます。以下に、両方の基本的なプリセットとサンプルを示します。

ロールプレイ

このマスタープリセットから始めます。

• このデモビデオを見て、実際の動作を確認してください（imgurリンク）。
• /sysを使用して、モデルに指示（OOC）を送信します。
• /sendを使用すると、即座に応答をトリガーせずにユーザーメッセージを追加することができます。これは、ユーザーメッセージの後に指示を送信する場合に便利です。

ストーリーライティング

これは、非伝統的なSillyTavern体験に慣れており、独自のカードを作成または編集することに慣れている上級ユーザー向けです。 このマスタープリセットから始めます。

• このデモビデオを見て、実際の動作を確認してください（imgurリンク）。
• 通常の{{user}}と{{char}}メッセージは、両方ともストーリーの一部と見なされます（<|start_header_id|>writer<|end_header_id|>）。
• /sysを使用して、モデルに指示（OOC）を送信します。
• /continueを使用すると、モデルに書き続けさせることができます。

DreamGen Webアプリ（無料）

このREADMEのほとんどのスクリーンショットは、DreamGenウェブアプリからのものです。ストーリーライティングとロールプレイモードがあり、ルーシッド（Lucid）モデルを無料で（一部制限付き）使用することができます。これには、Lucid Base（12B Nemoベース）とLucid Chonker（70B Llamaベース）が含まれます。

🔧 技術詳細

このモデルは、Mistral Nemo 12B（Base）の上で（全パラメータ）ファインチューニングされています。

• 最大32Kトークンの例
• 有効バッチサイズ：1Mトークン
• オプティマイザー：AdamW（8bit）
• 学習率：0.00000125
• ウェイトディケイ：0.05
• 最大勾配ノルム：1.0

📄 ライセンス

このAIモデルは、個人の非商用利用のみにライセンスされています。モデルで生成したテキストは、ユーザーが所有し、責任を負うものとなります。

何か必要なものがあれば、x@dreamgen.comまでご連絡ください。