Loyal Toppy Bruins Maid 7B DARE

🚀 Loyal-Toppy-Bruins-Maid-7B模型

本項目託管了 Loyal-Toppy-Bruins-Maid-7B 的FP16文件。這是一個70億參數的模型，旨在實現引人入勝的角色扮演（RP）對話，同時嚴格遵循角色卡片設定，並展現出智能表現。

🚀 快速開始

本模型基於多個優秀的基礎模型進行合併，以實現強大的角色扮演能力。以下是對其基礎模型和合並方法的介紹。

✨ 主要特性

• 強大的基礎模型：以 Starling-LM-7B-alpha 為基礎，該模型在LMSYS聊天機器人競技場中表現出色，甚至超越了GPT-3.5-Turbo-1106。
• 多樣化的數據集：融合了多個模型的數據，包括 rwitz/go-bruins-v2、chargoddard/loyal-piano-m7、Undi95/Toppy-M-7B 和 NeverSleep/Noromaid-7b-v0.1.1，這些模型的數據涵蓋了PIPPA、rpbuild、LimaRP等多種類型。
• 先進的合併方法：採用DARE ties方法進行模型合併，目標絕對權重為1.2，密度為0.5 - 0.6。
• 優秀的性能表現：在個人RP單元測試基準中排名靠前，在 lilblam's LLM Logic Test 中獲得了20分的優異成績。

🔧 技術細節

模型合併配置

models: # Top-Loyal-Bruins-Maid-DARE-7B_v2
  - model: mistralai/Mistral-7B-v0.1
    # no parameters necessary for base model
  - model: rwitz/go-bruins-v2 # MetamathCybertronStarling base
    parameters:
      weight: 0.5
      density: 0.6
  - model: chargoddard/loyal-piano-m7 # Pull in some PIPPA/LimaRP/Orca/rpguild
    parameters:
      weight: 0.5
      density: 0.6
  - model: Undi95/Toppy-M-7B
    parameters:
      weight: 0.1
      density: 0.5
  - model: NeverSleep/Noromaid-7b-v0.1.1
    parameters:
      weight: 0.1
      density: 0.5
merge_method: dare_ties
base_model: mistralai/Mistral-7B-v0.1
parameters:
  normalize: false
  int8_mask: true
dtype: bfloat16

📚 詳細文檔

提示模板

自定義格式

在SillyTavern中使用Noromaid模板可獲得最佳效果。 SillyTavern配置文件：上下文，指令。 同時，確保所有底層合併模型都支持Alpaca格式。

Alpaca格式

Below is an instruction that describes a task. Write a response that appropriately completes the request.

### Instruction:
{prompt}

### Response:

📄 許可證

本項目採用CC BY-NC 4.0許可證。