Lzlv 70b Fp16 Hf

🚀 lzlv_70B

いくつかのLLaMA2 70Bファインチューニングモデルをマージした、ロールプレイングや創作活動に最適なマルチモデルです。創造性と知性を兼ね備えた、より良い体験を提供します。

🚀 クイックスタート

このモデルは、複数のLLaMA2 70Bファインチューニングモデルをマージして、ロールプレイングや創作活動に最適化されています。目標は、創造性と知性を兼ね備えたモデルを作成し、ユーザーにより良い体験を提供することです。

テストでは、主観的に各個別のモデルよりも良い結果が得られました。

GGUF 4_K_M + 5_K_Mはこちらから入手できます: https://huggingface.co/lizpreciatior/lzlv_70b_fp16_hf/settings

10月29日の更新: TheBloke氏がlzlv用の全範囲の量子化モデルを作成してくれました。ありがとうございます。https://huggingface.co/TheBloke/lzlv_70B-GGUF

また、lzlvとlimarpv3をマージしたモデルもおすすめです。こちらをチェックしてみてください: https://huggingface.co/Doctor-Shotgun/lzlv-limarpv3-l2-70b/tree/main LoRAをマージしてくれた方に感謝します。これにより、モデルに少しだけ創造性が加わったと思います。

lzlvV2は開発中です。近日公開予定です。

✨ 主な機能

モデルの構成

• NousResearch/Nous-Hermes-Llama2-70b - ロールプレイングに優れたモデルですが、複雑な指示には向いていません。
• Xwin-LM/Xwin-LM-7B-V0.1 - 指示に従う能力に優れ、デフォルトでも創造性があります。マージのベースとして最適なモデルです。
• Doctor-Shotgun/Mythospice-70b - 3つのモデルの中でワイルドカード的な存在です。創造性があり、NSFW指向のモデルを探していたところ、Hugging Faceで見つけました。このモデルの量子化バージョンが公開されていなかったので、自分でダウンロードしてテストしました。結果、3番目の構成要素としてぴったりだったので、ここで使用しました。

上記のモデルの作成者の皆様に大きな感謝を申し上げます。Mythospiceを調べると、Nous-Hermesも含まれていることがわかります。つまり、技術的にはこのミックスに2回含まれています。これは13Bモデルを扱うクールな人たちの間で一般的なやり方のようです。モデルに害はないと思います。

マージ手順

マージプロセスは、Undi95氏のUndi95/MXLewdMini-L2-13Bにおけるアプローチに大きく影響を受けています。具体的には、比率は以下の通りです。

コンポーネント1: Mythospice x XwinをSLERP勾配[0.25, 0.3, 0.5]でマージ。 コンポーネント2: Xwin x HermesをSLERP勾配[0.4, 0.3, 0.25]でマージ。

最後に、コンポーネント1とコンポーネント2を重み0.5でSLERPを使用してマージしました。

🔧 技術詳細

このモデルは、公開する前に数日間テストされました。Xwin-70Bの指示に従う能力をほぼ維持しつつ、他の2つのモデルの創造性を多く取り入れているようです。

創造性のあるモデルが苦手とする複雑なシナリオをうまく処理します。同時に、出力はより創造的で、Xwin-70bよりも少しNSFW指向に感じられます。

では、このモデルは本当に良いのでしょうか？主観的にはそう感じますが、実際にはわかりません。テストしてみてください。

💻 使用例

基本的な使用法

Vicuna
USER: [Prompt]
ASSISTANT: 

📄 ライセンス

このモデルはCC BY-NC 2.0ライセンスの下で提供されています。