Darkest Muse V1 Lorablated V2

🚀 模型合併項目

本項目是使用預訓練語言模型進行合併的成果，藉助 mergekit 工具實現。通過合併不同的預訓練模型，旨在結合各模型的優勢，提升模型在特定任務或通用場景下的性能。

🚀 快速開始

本項目主要是關於預訓練語言模型的合併操作。若你想了解如何使用 mergekit 進行模型合併，可參考以下內容。

✨ 主要特性

• 模型合併：利用 mergekit 工具將多個預訓練語言模型合併為一個。
• 特定合併方法：採用 任務算術 合併方法，結合不同模型的優勢。

📚 詳細文檔

合併詳情

合併方法

本模型採用 任務算術 合併方法，以 sam-paech/Darkest-muse-v1 和 TouchNight/gemma-2-9b-it-abliterated-LoRA-untied 為基礎進行合併。

合併的模型

以下模型參與了合併：

• sam-paech/Darkest-muse-v1
• TouchNight/gemma-2-9b-it-abliterated-LoRA-untied

配置

以下是用於生成此模型的 YAML 配置：

base_model: sam-paech/Darkest-muse-v1+TouchNight/gemma-2-9b-it-abliterated-LoRA-untied
dtype: bfloat16
merge_method: task_arithmetic
parameters:
  normalize: false
slices:
- sources:
  - layer_range: [0, 42]
    model: sam-paech/Darkest-muse-v1+TouchNight/gemma-2-9b-it-abliterated-LoRA-untied
    parameters:
      weight: 1.0

📄 信息表格