DarkSapling-V2-Ultra-Quality-7B-GGUFオープンソースモデル - 32kコンテキストの超高品質テキスト処理

Darksapling V2 Ultra Quality 7B GGUF

Developed by DavidAU

Dark Sapling V2 7Bモデルを完全に再結合し、再構築したバージョンで、32kのコンテキスト長を持ち、超高品質と32ビット向上の特性を備えています。

Downloads 385

Release Time : 6/4/2024

Model Overview

クリエイティブライティング、ロールプレイング、ストーリー作成に特化した大規模言語モデルで、命令の遵守、推論、感情表現において卓越した性能を発揮します。

32k超長コンテキスト

32kの長さのコンテキストウィンドウをサポートし、長いテキストや複雑なシナリオの処理に適しています。

量子化性能の向上

Q4KM量子化で性能が著しく向上し、動作レベルがQ6レベルに達し、各量子化バージョンで明らかな改善が見られます。

細かな理解能力

テキストの微妙な違いや感情表現をよりよく理解し、プロンプトの必要量を減らします。

32ビット精度の向上

32ビット精度向上技術を採用し、モデルの出力品質を向上させます。

クリエイティブライティング

ロールプレイング

ストーリー作成

命令の遵守

感情表現

複雑な推論

クリエイティブライティング

小説作成

首尾一貫した長編のストーリー内容を生成します。

クリエイティブで感情の深いテキストを生成できます。

詩の作成

韻律と感情表現を持つ詩を生成します。

微妙な感情や芸術的表現を捉えることができます。

ロールプレイング

キャラクター対話

キャラクターの一貫性を維持して長時間の対話を行います。

キャラクターの特徴と対話の一貫性を維持できます。

シーン構築

詳細なロールプレイングシーンを作成します。

豊かな状況やインタラクションを構築できます。

Dark Sapling V2 7Bは驚くべきモデルです。このプロジェクトでは、そのソースファイルに基づいて完全に再結合と再制作を行い、32kのコンテキストを持ち、超高品質と32ビット向上の特性を備えています。創造的な執筆、ロールプレイ、ストーリー作成などの分野で優れた性能を発揮します。

このプロジェクトは、驚くべきDark Sapling V2 7B - 32kコンテキストモデルをソースファイルから完全に再結合し、再制作したものです。

優れた量子化性能：Q4KM量子化では、320点もの大幅なスコア低下（スコアは低いほど良い）を達成しました。これにより、「Q4KM」の動作レベルが「Q6」レベルに達し、同時にQ6とQ8の性能もさらに向上しました。最小の量子化であるQ2Kでも、元のバージョンよりも大幅に性能が向上しています。
卓越した性能：命令の遵守、推論、深度、ニュアンス、感情表現などの面で卓越した性能を発揮します。ニュアンスをよりよく理解することができるため、プロンプトのサイズが減少し、プロンプトサイズの減少により、出力で利用できるコンテキストが増えます。
量子化の差異が顕著：異なる量子化間の差異は、創造的な用途や「正解がない」用途で特に顕著です。そのため、実行可能な最高の量子化バージョンとそれに近いバージョン（例：Q4KS、Q4KM、Q5KS）をダウンロードすることをおすすめします。

バージョン情報：バージョン1とバージョン1.1も再制作されています。Imatrix Plusバージョンは、近日中に別のリポジトリにアップロードされます。
高品質設定と操作ガイド：このモデルは「1類」に属します。このモデルで使用されるすべての設定（「カテゴリ」の具体的な設定を含む）、サンプル生成、高度な設定ガイド（多くの場合、あらゆるモデルの問題を解決できます）、およびすべての用途（チャット、ロールプレイなど）でのモデル性能を向上させる方法については、[ https://huggingface.co/DavidAU/Maximizing-Model-Performance-All-Quants-Types-And-Full-Precision-by-Samplers_Parameters ]を参照してください。