Captain Eris Violet GRPO V0.420

🚀 船長艾里斯·紫羅蘭模型

本模型結合了多階段監督微調、預訓練的QLoRA適配器以及通過GRPO優化的多階段RLHF技術，為用戶提供強大的功能。同時，模型圖像可作為可導入的角色卡用於SillyTavern，為使用提供便利。

🚀 快速開始

模型圖像現已可作為可導入的角色卡用於SillyTavern，以下是示例，展示瞭如何為該模型準備自己的卡片。

✨ 主要特性

• 訓練方式：該模型採用多階段監督微調、預訓練的QLoRA適配器以及通過GRPO優化的多階段RLHF相結合的方式進行開發。最終模型是通過合併過程中確定的最有潛力的候選模型而創建的。
• 量化版本：感謝Mradermacher <3 提供了不同的量化版本。
  • 常規GGUF
  • Imatrix GGUF
  • 4bpw Exl2
• SillyTavern示例：提供了SillyTavern推理塊解析示例和Mistral格式示例。
  • 推理塊解析示例：
  • Mistral格式示例：主導入預設在此
• 系列對比：

🔧 技術細節

以下是用於生成此最終版本模型的YAML配置：

slices:
  - sources:
      - model: Nitral-AI/Captain-Eris_Violet-0.420-Rebased
        layer_range: [0, 40]
      - model: Nitral-AI/Captain-Eris_Violet-GRPO-Rebased
        layer_range: [0, 40]
merge_method: slerp
base_model: Nitral-AI/Captain-Eris_Violet-0.420-Rebased
parameters:
  t:
    - filter: self_attn
      value: [0, 0.5, 0.3, 0.7, 1]
    - filter: mlp
      value: [1, 0.5, 0.7, 0.3, 0]
    - value: 0.420
dtype: bfloat16

📄 許可證

許可證類型：other