MN Violet Lotus 12B

🚀 MN-Violet-Lotus-12B

MN-Violet-Lotus-12B是在Chunky-Lotus誕生之際，我嘗試創建的模型。該模型不僅在我的本地情商基準測試中得分更高（8位精度下解析率100%時得分為80.00），而且在角色扮演和生成創意輸出方面表現更出色，同時還能適應各種不同的角色性格。其較高的情商水平也十分顯著。

我再次強調，與公佈的分數相比，這些模型在我的本地測試中往往得分更高，而這個模型已經成為我個人測試過的模型中的新高分。

我真的很喜歡這個模型的寫作風格，希望你也能喜歡使用它！

模型相關信息

GGUF量化版本

• https://huggingface.co/backyardai/MN-Violet-Lotus-12B-GGUF
• https://huggingface.co/mradermacher/MN-Violet-Lotus-12B-GGUF
• https://huggingface.co/mradermacher/MN-Violet-Lotus-12B-i1-GGUF

推薦的ST設置

特別感謝@Zeldazachman提供的這些出色的ST設置，我現在全力推薦！

合併詳情

本模型是使用mergekit對預訓練語言模型進行合併得到的。

合併方法

本模型採用Model Stock合併方法進行合併。

合併的模型

以下模型參與了合併：

• Epiculous/Violet_Twilight-v0.2
• NeverSleep/Lumimaid-v0.2-12B
• flammenai/Mahou-1.5-mistral-nemo-12B
• Sao10K/MN-12B-Lyra-v4

配置

以下是用於生成此模型的YAML配置：

models:
  - model: FallenMerick/MN-Twilight-Maid-SLERP-12B #(未發佈)
  - model: Sao10K/MN-12B-Lyra-v4
  - model: flammenai/Mahou-1.5-mistral-nemo-12B
merge_method: model_stock
base_model: mistralai/Mistral-Nemo-Instruct-2407
parameters:
  normalize: true
dtype: bfloat16

在這個配方中，首先使用SLERP方法將Violet Twilight和Lumimaid進行混合，以創建一個強大的角色扮演基礎。然後加入Lyra v4，因為它在創造力和角色扮演方面表現出色，同時加入Mahou以限制輸出，防止生成的模型過於冗長。最後使用Model Stock進行合併，以確保最終的權重朝著正確的方向調整，同時以Nemo Instruct作為強大的錨點。