Lzlv 70b Fp16 Hf

🚀 lzlv_70B

lzlv_70B 是一個將多個 LLaMA2 70B 微調模型進行融合的多模型，適用於角色扮演和創意工作。其目標是打造一個兼具創造力與智能的模型，以提升使用體驗。

🚀 快速開始

本模型結合了多個優秀模型的特點，在角色扮演和創意工作方面表現出色。你可以按照以下提示格式使用該模型。

✨ 主要特性

• 融合創意與智能：結合了多個模型的優勢，既具備創造力，又有較好的智能表現。
• 良好的指令跟隨能力：在一定程度上保留了 Xwin - 70B 的指令跟隨能力。
• 豐富的創意輸出：輸出內容更具創意，可能帶有一些 NSFW 傾向。

📦 安裝指南

文檔未提及具體安裝步驟，可參考相關模型在 Hugging Face 上的通用安裝方法。

💻 使用示例

基礎用法

本模型的提示格式為 Vicuna 格式：

USER: [Prompt]
ASSISTANT: 

例如：

USER: 請為我創作一個簡短的科幻故事。
ASSISTANT: 

📚 詳細文檔

模型融合過程

• 使用的模型：
  • NousResearch/Nous - Hermes - Llama2 - 70b：是角色扮演的優秀模型，但在遵循複雜指令方面表現一般。
  • Xwin - LM/Xwin - LM - 7B - V0.1：非常擅長遵循指令，且自帶一定的創造力，因此被選為融合的基礎模型。
  • Doctor - Shotgun/Mythospice - 70b：這是三個模型中的變數。作者在尋找一個有創意、面向 NSFW 的模型時發現了它。此前似乎沒人發佈過該模型的量化版本，作者下載並自行測試後，將其作為第三個組件用於融合。
• 融合過程： 融合過程深受 Undi95 在 Undi95/MXLewdMini - L2 - 13B 中的方法啟發。具體比例如下：
  • 組件 1：將 Mythospice 和 Xwin 以 SLERP 梯度 [0.25, 0.3, 0.5] 進行融合。
  • 組件 2：將 Xwin 和 Hermes 以 SLERP 梯度 [0.4, 0.3, 0.25] 進行融合。 最後，將組件 1 和組件 2 以權重 0.5 進行 SLERP 融合。

性能表現

作者在發佈該模型前進行了幾天的測試。該模型似乎在一定程度上保留了 Xwin - 70B 的指令跟隨能力，同時吸收了其他兩個模型的大量創造力。它能很好地處理一些創意模型通常難以應對的複雜場景。與 Xwin - 70B 相比，其輸出更具創意，可能也更傾向於 NSFW 內容。

🔧 技術細節

本模型是多個 LLaMA2 70B 微調模型的融合，融合過程採用了 SLERP 方法，並根據不同的梯度和權重進行操作。通過這種方式，將不同模型的優勢進行整合，以達到更好的性能表現。

📄 許可證

本模型採用 CC - BY - NC - 2.0 許可證。

相關鏈接

• 感謝 TheBloke 為 lzlv 製作的全系列量化版本：https://huggingface.co/TheBloke/lzlv_70B - GGUF
• 推薦查看 lzlv 與 limarpv3 的融合版本：https://huggingface.co/Doctor - Shotgun/lzlv - limarpv3 - l2 - 70b/tree/main

lzlvV2 正在開發中，敬請期待。