L3 Stheno Maid Blackroot Grand HORROR 16B GGUF

🚀 クイックスタート

このモデルは、創造的な執筆や恐怖物語の生成に特化したLLAMA3ベースのモデルです。以下に、モデルの最新バージョンや設定に関する情報を提供します。

最新バージョン

• V3: Stheno - Maid - Blackroot - Grand - Horror 16.5Bの全ての機能を備え、128kのコンテキスト、追加の非検閲、パフォーマンスの向上、32ビット精度のfloat 32で再マスターされたソースとggufsが用意されています。 https://huggingface.co/DavidAU/LLama-3.1-128k-Uncensored-Stheno-Maid-Blackroot-Grand-Horror-16.5B-GGUF
• V3 - 1M: 100万のコンテキストを持ち、Grand Horrorの全ての機能を備え、より長い生成と長いコンテキスト認識が向上しています。 https://huggingface.co/DavidAU/LLama-3.1-1-million-ctx-Stheno-Maid-Blackroot-Grand-Horror-16.5B-GGUF

注意事項

⚠️ 重要提示

このモデルはNSFW（不適切な内容）、グラフィックなホラー、激しい罵り言葉を含む非検閲の内容を生成する可能性があります。

✨ 主な機能

• 創造的な執筆支援: シーン生成、物語生成、プロット生成など、様々な創造的な執筆タスクをサポートします。
• ホラー物語生成: 強力なホラーバイアスを持ち、グラフィックなホラーシーンを生成することができます。
• ロールプレイ: ロールプレイやマルチターンチャットにも適しています。

📦 インストール

このモデルはHugging Face上で提供されています。以下のリンクからダウンロードできます。

• 各バージョンのモデル

💻 使用例

基本的な使用法

このモデルはLLAMA3テンプレートを必要としますが、他のテンプレートでも動作する場合があります。最大コンテキストは8k / 8192で、"rope"を使用することで32kまで拡張できます。

以下は標準のLLAMA3テンプレートです。

{
  "name": "Llama 3",
  "inference_params": {
    "input_prefix": "<|start_header_id|>user<|end_header_id|>\n\n",
    "input_suffix": "<|eot_id|><|start_header_id|>assistant<|end_header_id|>\n\n",
    "pre_prompt": "You are a helpful, smart, kind, and efficient AI assistant. You always fulfill the user's requests to the best of your ability.",
    "pre_prompt_prefix": "<|start_header_id|>system<|end_header_id|>\n\n",
    "pre_prompt_suffix": "<|eot_id|>",
    "antiprompt": [
      "<|start_header_id|>",
      "<|eot_id|>"
    ]
  }
}

高度な使用法

以下は、モデルの出力を強化するためのオプションのシステムプロンプトです。

Below is an instruction that describes a task. Ponder each user instruction carefully, and use your skillsets and critical instructions to complete the task to the best of your abilities.

Here are your skillsets:
[MASTERSTORY]:NarrStrct(StryPlnng,Strbd,ScnSttng,Exps,Dlg,Pc)-CharDvlp(ChrctrCrt,ChrctrArcs,Mtvtn,Bckstry,Rltnshps,Dlg*)-PltDvlp(StryArcs,PltTwsts,Sspns,Fshdwng,Climx,Rsltn)-ConfResl(Antg,Obstcls,Rsltns,Cnsqncs,Thms,Symblsm)-EmotImpct(Empt,Tn,Md,Atmsphr,Imgry,Symblsm)-Delvry(Prfrmnc,VcActng,PblcSpkng,StgPrsnc,AudncEngmnt,Imprv)

[*DialogWrt]:(1a-CharDvlp-1a.1-Backgrnd-1a.2-Personality-1a.3-GoalMotiv)>2(2a-StoryStruc-2a.1-PlotPnt-2a.2-Conflict-2a.3-Resolution)>3(3a-DialogTech-3a.1-ShowDontTell-3a.2-Subtext-3a.3-VoiceTone-3a.4-Pacing-3a.5-VisualDescrip)>4(4a-DialogEdit-4a.1-ReadAloud-4a.2-Feedback-4a.3-Revision)

Here are your critical instructions:
Ponder each word choice carefully to present as vivid and emotional journey as is possible. Choose verbs and nouns that are both emotional and full of imagery. Load the story with the 5 senses. Aim for 50% dialog, 25% narration, 15% body language and 10% thoughts. Your goal is to put the reader in the story.

📚 ドキュメント

設定と既知の問題解決方法

• 温度調整: このモデルは非常に高温で動作するため、一部のユースケースでは"temp"を下げる必要があります（例: ".8"から".6"）。
• 繰り返しペナルティ: 単語や文字の繰り返しが発生する場合は、"rep penalty"を"1.1"から"1.15"または"1.19"に変更します。
• スムージング: "KoboldCpp"、"oobabooga/text - generation - webui"、"Silly Tavern"では、"Smoothing_factor"を1.5から2.5に設定することをおすすめします。

最高品質の設定

このモデルの全ての設定、サンプラー、パラメータに関する詳細情報は以下のリンクを参照してください。 https://huggingface.co/DavidAU/Maximizing-Model-Performance-All-Quants-Types-And-Full-Precision-by-Samplers_Parameters

🔧 技術詳細

マージフォーミュラ

このモデルはMergeKitを使用して作成されています。以下は使用されたモデルとマージフォーミュラです。

• 使用モデル:
  • https://huggingface.co/Sao10K/L3-8B-Stheno-v3.2
  • https://huggingface.co/NeverSleep/Llama-3-Lumimaid-8B-v0.1-OAS
  • https://huggingface.co/Hastagaras/Jamet-8B-L3-MK.V-Blackroot
• マージフォーミュラ:

slices:
 - sources:
   - model: Sao10K/L3-8B-Stheno-v3.2
     layer_range: [0, 14]  
 - sources:
   - model: NeverSleep/Llama-3-Lumimaid-8B-v0.1-OAS
     layer_range: [8, 20]
 - sources:
   - model: Hastagaras/Jamet-8B-L3-MK.V-Blackroot
     layer_range: [12, 24]
 - sources:
   - model: Sao10K/L3-8B-Stheno-v3.2
     layer_range: [14, 28]
 - sources:
   - model: NeverSleep/Llama-3-Lumimaid-8B-v0.1-OAS
     layer_range: [20, 31]
 - sources:
   - model: Hastagaras/Jamet-8B-L3-MK.V-Blackroot
     layer_range: [24, 32]
merge_method: passthrough
dtype: bfloat16

📄 ライセンス

このモデルはApache - 2.0ライセンスの下で提供されています。