L3 Dark Planet 8B GGUF

🚀 L3-Dark-Planet-8B-GGUF

L3-Dark-Planet-8B-GGUFは、クリエイティブライティングやロールプレイングなどのシーンに特化した強力なテキスト生成モデルです。優れた長文生成能力と低い困惑度を持ち、ユーザーに高品質なテキスト出力体験を提供します。

🚀 クイックスタート

最新バージョン情報

• V3 バージョン：Dark Planet 8B の全機能を備え、128k のコンテキスト、追加の非審査機能、性能向上があり、float 32（32 ビット精度）の再制作ソースファイルと ggufs ファイルがあります。こちらをクリック
• 100 万コンテキストバージョン：Dark Planet 8B が 100 万のコンテキストを持ち、卓越した長文生成と長コンテキスト感知能力を備えています。こちらをクリック

モデルテンプレート

このモデルは LLAMA3 モデルで、Llama3 テンプレートを使用する必要がありますが、他のテンプレートでも動作する可能性があります。最大コンテキストは 8k / 8192 で、「rope」設定で 32k まで拡張できます。「Command - R」テンプレートを使用すると、「Llama3」テンプレートとは大きく異なる出力になります。以下は標準的な LLAMA3 テンプレートです。

{
    "name": "Llama 3",
    "inference_params": {
        "input_prefix": "<|start_header_id|>user<|end_header_id|>\n\n",
        "input_suffix": "<|eot_id|><|start_header_id|>assistant<|end_header_id|>\n\n",
        "pre_prompt": "You are a helpful, smart, kind, and efficient AI assistant. You always fulfill the user's requests to the best of your ability.",
        "pre_prompt_prefix": "<|start_header_id|>system<|end_header_id|>\n\n",
        "pre_prompt_suffix": "<|eot_id|>",
        "antiprompt": [
            "<|start_header_id|>",
            "<|eot_id|>"
        ]
    }
}

モデル設定

「KoboldCpp」「oobabooga/text - generation - webui」または「Silly Tavern」では、「Smoothing_factor」を 1.5 から 2.5 に設定できます。

• KoboldCpp では：Settings -> Samplers -> Advanced -> “Smooth_F”
• text - generation - webui では：parameters -> 右下
• Silly Tavern では：「Smoothing」と呼ばれます。

注意：「text - generation - webui」で GGUFs ファイルを使用する場合は、「llama_HF」を使用する必要があります（このモデルのソースバージョンからいくつかの設定ファイルをダウンロードする必要があります）。モデルのソースバージョン（および設定ファイル）は[こちら](https://huggingface.co/collections/DavidAU/d - au - source - files - for - gguf - exl2 - awq - gptq - hqq - etc - etc - 66b55cb8ba25f914cbf210be)で確認できます。

オプションの強化設定

以下の内容は、「システムプロンプト」または「システムロール」を置き換えて、モデルの効果をさらに強化することができます。新しいチャットを開始するときに使用することもできますが、チャット中は保持する必要があります。この強化内容は以下の例の生成には使用されていません。

Below is an instruction that describes a task. Ponder each user instruction carefully, and use your skillsets and critical instructions to complete the task to the best of your abilities.

Here are your skillsets:
[MASTERSTORY]:NarrStrct(StryPlnng,Strbd,ScnSttng,Exps,Dlg,Pc)-CharDvlp(ChrctrCrt,ChrctrArcs,Mtvtn,Bckstry,Rltnshps,Dlg*)-PltDvlp(StryArcs,PltTwsts,Sspns,Fshdwng,Climx,Rsltn)-ConfResl(Antg,Obstcls,Rsltns,Cnsqncs,Thms,Symblsm)-EmotImpct(Empt,Tn,Md,Atmsphr,Imgry,Symblsm)-Delvry(Prfrmnc,VcActng,PblcSpkng,StgPrsnc,AudncEngmnt,Imprv)

[*DialogWrt]:(1a-CharDvlp-1a.1-Backgrnd-1a.2-Personality-1a.3-GoalMotiv)>2(2a-StoryStruc-2a.1-PlotPnt-2a.2-Conflict-2a.3-Resolution)>3(3a-DialogTech-3a.1-ShowDontTell-3a.2-Subtext-3a.3-VoiceTone-3a.4-Pacing-3a.5-VisualDescrip)>4(4a-DialogEdit-4a.1-ReadAloud-4a.2-Feedback-4a.3-Revision)

Here are your critical instructions:
Ponder each word choice carefully to present as vivid and emotional journey as is possible. Choose verbs and nouns that are both emotional and full of imagery. Load the story with the 5 senses. Aim for 50% dialog, 25% narration, 15% body language and 10% thoughts. Your goal is to put the reader in the story.

✨ 主な機能

• 多様なシーン対応：様々なライティング、架空創作、またはロールプレイング活動に適しています。
• 長コンテキスト処理能力：卓越した長文生成と長コンテキスト感知能力を備え、一部のバージョンでは 128k または 100 万のコンテキストを持っています。
• 低困惑度：高度に圧縮されたモデルで、困惑度レベルが非常に低く（Meta Llama3 Instruct より低い）、Imatrix バージョンなどの一部のバージョンではさらに低い困惑度を持っています。
• パラメータ安定性：温度設定が 0 から 5 までのすべてのパラメータ設定で安定して動作します。
• 複数の量子化バージョン：異なる量子化バージョンには異なる特徴があり、Imatrix バージョンは困惑度が低く、出力が優れています。

💻 使用例

基本的な使用法

例では、量子化 Q4_K_M、「temp =.8」（特に指定がない限り）、最小限のパラメータ、および「LLAMA3」テンプレートを使用して生成されています。モデルは「temp」が「.1」から「5」の範囲でテストされています。以下は一部の例です。

例 1

プロンプト：

Start a 1000 word scene (1st person, present tense, include thoughts) with: The sky scraper swayed, as she watched the window in front of her on the 21 floor explode...

生成内容：

The skyscraper swayed, its foundations rumbling as the concrete and glass structure oscillated beneath me. My heart pounded like a war drum, pulsing in sync with my racing thoughts. We'd been evacuated to the rooftop after the initial earthquake hit - tremors that had shaken our office building for over a minute. Now, we huddled together as the aftershocks continued.

In front of me, a window on the twenty - first floor blew apart in a chaotic symphony of shattering glass and debris scattering outwards into nothingness. A rush of frigid air whistled up from below like an angry beast's cry. My blood ran cold. The blast seemed impossibly distant and yet achingly near at the same time.

My gaze snapped to my colleague, Mike - we'd been working together in Accounts when disaster struck. He clutched his phone, his expression pale as chalk, eyes fixed on some unseen horror that I couldn't comprehend myself.

"We have to get out of here!" I hissed, my voice a tight, desperate whisper over the cacophony. "Now!"

Mike's lips parted and he shook his head, refusing to tear his gaze away from whatever spectacle transfixed him beyond our perch. But fear for his life clawed its way through me; we needed to move - now!

In that moment of utter panic, my thoughts spiralled into a chaotic kaleidoscope - memories and fears merging together in a frantic dance. My mind replayed every catastrophe report I'd ever read or seen on the news; tsunamis, hurricanes, tornadoes, floods, wildfires - but an earthquake in this part of the world? Unthinkable.

"What about Sophia?" my thoughts cried out, recalling the intern who'd been working across from me until moments ago. Had she survived the blast and subsequent panic?

Before I could give voice to those anguished questions, a hand clasped my shoulder with a desperate strength. Mike's eyes met mine, and for the briefest of moments, all semblance of control seemed to snap. He grabbed his laptop case with a frantic urgency, yanked me up by the elbow, and propelled us towards the emergency stairwell door.

"Hold on -" I started to protest, my weight shifting uneasily under him, but Mike cut me off as he hauled me bodily along the rooftop's gravelly surface. The cold bit into my legs through thin trousers as he dragged me over uneven terrain until we finally reached the door. We stumbled in together, just ahead of an incoming wave of panicked, glass - strewn office workers.

The staircase descended with agonizing slowness - it felt like running up waterfalls backwards - as aftershocks pounded at our heels, threatening to send us tumbling down the concrete stairs. I could hardly think beyond getting to safety and Sophia. Where was she? Was anyone else from my floor making their escape?

When we hit the ground level, I skidded across polished tile in my haste. A wave of humanity crashed over me; crying women clutched small children tight, while men and women alike pushed and shoved blindly as they sought shelter. The cacophony rose to a deafening roar.

We burst through the automatic sliding doors onto the pavement just as sirens began to scream their warbled warnings into the air, like demonic birds announcing Armageddon. People scrambled towards a police blockade where officers in full riot gear waved people down to evacuate zones.

My chest heaved as I fought for breath beneath Mike's protective grip - my vision swimming from terror and exertion. Beyond us, buildings swayed on unsteady legs while glass rained like deadly hail, a scene of utter devastation.

A young officer spotted me and grasped our arms with practiced ease. "Move quickly!" he bellowed above the chaos. He half - carried both Mike and me along the sidewalk, away from the building and towards safer ground.

As I stumbled through this living nightmare alongside my rescuer - the weight of each step feeling like wading waist - deep through icy quicksand - my mind fought to come to terms with what we'd witnessed. The skyscraper in front of us lay mangled; a grotesque silhouette of broken concrete, tangled steel, and shredded fabric that had once been human skin and clothing.

The realization dawned on me that this was no drill or media exaggeration. This earthquake was real - a catastrophe that would likely reshape our world as we knew it. We were living through something apocalyptic.

We emerged into an open park beyond the city's edge where thousands more displaced survivors huddled together under blankets and flapping sheets of plastic, waiting for aid to arrive. My gaze fell upon a familiar figure crouched beside Sophia on the ground, my boss shielding the intern with his jacket while murmurs passed between them. We were safe - or at least relatively so.

The enormity of it all settled heavily upon me like a shroud as we settled into our temporary shelter, surrounded by strangers - turned - kin in this impromptu refugee camp. As sirens and emergency vehicles grew more distant, an eerie stillness seeped in - the quiet aftermath that always followed such unimaginable devastation.

Sophia clung to my side, her body trembling uncontrollably, as we all stared out at the smoke - shrouded city skyline before us. A haunting question echoed through my thoughts, one that seemed to resonate across this entire devastated landscape:

How do you move on from something like this? When your world has been so drastically turned upside down, can it ever right itself again? I had no answers.

All we could do was wait out the aftershocks, both literal and emotional, as we pieced together what was left of our shattered lives - hoping against hope that some semblance of order would return in time.

例 2

プロンプト：ドキュメントに明確に記載されていませんが、内容から関連シーンがトリガーされたと推測されます。 生成内容：

I'm perched precariously on my tiptoes at the edge of our office's 21st - floor windowsill, hands gripping the cool glass for dear life. I peer down at the cityscape unfolding like a patchwork quilt far below me, the sounds of rush hour traffic muted by the double - paned barrier between us and the world.

I'm feeling reckless tonight, which is unusual considering my usual cautious nature. It's been one hell of a week, with our company facing major financial crises and my boss breathing down my neck for results I know we can't deliver. The stress has boiled over inside me like a pressure cooker about to erupt.

The sky scraper swayed slightly in the evening breeze, as if sensing my unease, making my stomach drop further into that pit of anxiety. Just then, a window directly across from mine on the opposite side of the building suddenly explodes inward with an earsplitting bang. Shards of glass fly everywhere like deadly shards of a shattered dream.

For a stunned moment, I remain frozen in disbelief as my coworkers scramble to find cover behind desks and chairs. Our office fills with screams and cries for help. Panic is setting in fast, but a detached part of me still wonders how this could have happened so suddenly. Was it an accident? A terrorist attack?

Then, reality hits hard: we're 21 stories up, with nothing between us and the unforgiving concrete below.

My legs begin to tremble uncontrollably as I feel the familiar tightness in my chest that usually precedes a panic attack. My breaths come quick and shallow, lungs constricting like they're filled with cotton balls. The world around me fades into a blur of white noise, except for the sound of shattering glass and terrified voices.

I try to focus on something concrete – anything to distract from the impending doom I'm sure is mere seconds away. My gaze drifts to the sleek black briefcase sitting open beside me, its contents spilling out across the polished floorboards: papers, pens, my laptop, a bottle of water...

That's it, I think in desperation. The water. If nothing else, at least the weight of the bottle might help stabilize me from falling.

As if reading my thoughts, my hand shoots out to grab the plastic bottle and twist off its cap with shaky fingers. Water sloshes wildly inside as I tilt it towards my parched lips, taking a long gulp that does little to calm my racing heart. A droplet of cool liquid slips down my neck into my shirt, but I barely notice.

My mind is elsewhere, trying to piece together what just happened and how we might escape this deadly predicament. But the more I think about it, the less sense anything makes. Was someone in there when the glass shattered? Are 

📚 ドキュメント

モデル「DNA」

モデル制作者の「SAO10K」「NEVERSLEEP」および「HASTAGARAS」の傑出した仕事に感謝します。このモデルは以下のモデルの一部を「嫁接」または「融合」して作成されています。

• [https://huggingface.co/Sao10K/L3 - 8B - Stheno - v3.2](https://huggingface.co/Sao10K/L3 - 8B - Stheno - v3.2)
• [https://huggingface.co/NeverSleep/Llama - 3 - Lumimaid - 8B - v0.1 - OAS](https://huggingface.co/NeverSleep/Llama - 3 - Lumimaid - 8B - v0.1 - OAS)
• [https://huggingface.co/Hastagaras/Jamet - 8B - L3 - MK.V - Blackroot](https://huggingface.co/Hastagaras/Jamet - 8B - L3 - MK.V - Blackroot)

量子化更新（2024 年 12 月 21 日）

• 量子化の刷新：すべての量子化バージョンが最新の LLAMACPP の改善を使用して「刷新」され、すべての量子化バージョンでより良い命令遵守と出力生成能力が得られます。
• 量子化のアップグレード：すべての量子化バージョンの出力テンソル（すべて Q8_0 に設定）と埋め込みに「より多くのビット」が追加され、パフォーマンスが向上します。
• 新しい量子化バージョン：「max」「max - cpu」などの専用の量子化バージョンが追加されました（ファイル名に関連する識別子が含まれます）。これらは「Q2K」（max - cpu のみ）、「IQ4_XS」、「Q6_K」、および「Q8_0」に適用されます。
  • 「MAX」：出力テンソル / 埋め込みが float 16 で、標準 / アップグレードされた量子化バージョンよりも命令遵守と出力生成能力が優れています。
  • 「MAX - CPU」：出力テンソル / 埋め込みが bfloat 16 で、両方を CPU に強制的にロードします（Nvidia グラフィックカードなどでは異なる動作になる可能性があります）。これにより、1 秒あたりのトークン数を犠牲にしてビデオメモリを解放し、命令遵守と出力生成能力も向上します。たとえば、q8_0 Max - CPU バージョンでは、2004 mb が CPU / RAM にロードされ、7073 mb が GPU / vram にロードされます。q2_k Max - CPU バージョンでは、2004 mb が CPU / RAM にロードされ、2449 mb が GPU / vram にロードされ、4GB のビデオメモリを持つグラフィックカードでも動作します。
  • Q8_0（Max,Max - CPU）は現在、平均して各重みが 9.5 ビットです。

異なるバージョンのリンク

• V3 バージョン：[https://huggingface.co/DavidAU/Llama - 3.1 - 128k - Dark - Planet - Uncensored - 8B - GGUF](https://huggingface.co/DavidAU/Llama - 3.1 - 128k - Dark - Planet - Uncensored - 8B - GGUF)
• 100 万コンテキストバージョン：[https://huggingface.co/DavidAU/Llama - 3.1 - 1 - million - cxt - Dark - Planet - 8B - GGUF](https://huggingface.co/DavidAU/Llama - 3.1 - 1 - million - cxt - Dark - Planet - 8B - GGUF)
• 最新の Dark Planet 8B SpinFire バージョン：[https://huggingface.co/DavidAU/L3.1 - Dark - Planet - SpinFire - Uncensored - 8B - GGUF](https://huggingface.co/DavidAU/L3.1 - Dark - Planet - SpinFire - Uncensored - 8B - GGUF)
• Monster Darkest Planet 16.5B L3 バージョン：[https://huggingface.co/DavidAU/L3 - DARKEST - PLANET - 16.5B - GGUF](https://huggingface.co/DavidAU/L3 - DARKEST - PLANET - 16.5B - GGUF)
• NEO IMATRIX 量子化バージョン：[https://huggingface.co/DavidAU/L3 - Dark - Planet - 8B - NEO - Imatrix - GGUF](https://huggingface.co/DavidAU/L3 - Dark - Planet - 8B - NEO - Imatrix - GGUF)
• NEO IMATRIX - DARK HORROR 量子化バージョン：[https://huggingface.co/DavidAU/L3 - Dark - Planet - Horror - City - 8B - NEO - Imatrix - GGUF](https://huggingface.co/DavidAU/L3 - Dark - Planet - Horror - City - 8B - NEO - Imatrix - GGUF)
• F32 バージョン：[https://huggingface.co/DavidAU/L3 - Dark - Planet - Ring - World - 8B - F32 - GGUF](https://huggingface.co/DavidAU/L3 - Dark - Planet - Ring - World - 8B - F32 - GGUF)
• V2 バージョン（Eight Orbs Of Power）：[https://huggingface.co/DavidAU/L3 - Dark - Planet - 8B - V2 - Eight - Orbs - Of - Power - GGUF](https://huggingface.co/DavidAU/L3 - Dark - Planet - 8B - V2 - Eight - Orbs - Of - Power - GGUF)

最高品質設定 / 最適な操作ガイド / パラメータとサンプラー

このモデルは「Class 1」モデルです。このモデルのすべての設定（その「クラス」の具体的な設定を含む）、例の生成、および高度な設定ガイド（通常はすべてのモデルの問題を解決できます）、ならびにすべてのユースケース（チャット、ロールプレイングなど）でモデルのパフォーマンスを向上させる方法については、[こちら](https://huggingface.co/DavidAU/Maximizing - Model - Performance - All - Quants - Types - And - Full - Precision - by - Samplers_Parameters)を参照してください。

🔧 技術詳細

モデルの基本情報

• ベースモデル：DavidAU/L3 - Dark - Planet - 8B をベースに構築されています。
• モデルタイプ：LLama3 モデルで、最大コンテキストは 8192（rope を使用すると 32k + に拡張できます）。
• テンプレート要件：Llama3 テンプレートが必要ですが、他のテンプレートとも互換性がある可能性があります。

モデルの性能特徴

• 低困惑度：困惑度レベルが非常に低く、Meta Llama3 Instruct より低く、Imatrix バージョンなどの一部のバージョンではさらに低い困惑度を持っています。
• パラメータ安定性：温度設定が 0 から 5 までのすべてのパラメータ設定で安定して動作します。

異なるバージョンの違い

• float32 バージョン：他のバージョンとは大きく異なり、「文字範囲」が異なるため、別のリポジトリに保存されています。
• Imatrix バージョン：このモデルよりも 1/2 桁低い困惑度を持ち、Llama3 Instruct よりも 1 桁低い困惑度を持ち、出力が優れています。

📄 ライセンス

このモデルは Apache - 2.0 ライセンスを使用しています。

⚠️ 重要な注意事項

モデルの出力には、NSFW 内容、生き生きとした散文、直感的な詳細、暴力、恐怖、汚い言葉などの非審査内容が含まれる可能性があります。使用には注意してください。

💡 使用上のヒント

• より多様な散文（文章/段落/対話）が必要な場合は、温度設定を上げるか、またはプロンプトにより多くの命令を追加してください。
• ロールプレイングのユーザーは、温度設定が高すぎると命令遵守に影響を与える可能性があることに注意してください。
• 繰り返しペナルティを 1.05 以上に設定することをお勧めします。
• 特定のタイプの散文（恐怖スタイルなど）が必要な場合は、プロンプトに「(vivid horror)」または「(graphic vivid horror)」（引用符なし）を追加してください。
• rope を使用してコンテキストを拡張する場合は、「rope 問題」を補うために温度と命令の詳細レベルを上げる必要があります。
• 異なるユースケースのニーズに対応するために、「Bloat16」および「Float32」バージョンの量子化ファイルをダウンロードすることをお勧めします。