Buddyglassuncensored2025.4

🚀 预训练语言模型合并项目

本项目是使用 mergekit 对预训练语言模型进行合并的成果。通过合并多个优秀的预训练模型，旨在提升模型的性能和适用性，为自然语言处理任务提供更强大的支持。

🚀 快速开始

本项目基于 transformers 库，若你想使用此合并模型，可按以下步骤操作：

1. 确保你已经安装了 transformers 库。
2. 参考本 README 文档中关于模型合并的详细信息，了解模型的构成和配置。

✨ 主要特性

• 多模型合并：将多个预训练语言模型进行合并，整合各模型的优势。
• 特定合并方法：采用 DARE TIES 合并方法，以 mistralai/Mistral-Small-24B-Instruct-2501 为基础模型进行合并。

📚 详细文档

合并详情

合并方法

本模型使用 DARE TIES 合并方法，以 mistralai/Mistral-Small-24B-Instruct-2501 作为基础模型进行合并。

合并的模型

以下模型参与了合并：

• huihui-ai/Mistral-Small-24B-Instruct-2501-abliterated
• TheDrummer/Cydonia-24B-v2
• huihui-ai/Arcee-Blitz-abliterated
• cognitivecomputations/Dolphin3.0-Mistral-24B

配置

以下是用于生成此模型的 YAML 配置：

models:
  - model: cognitivecomputations/Dolphin3.0-Mistral-24B
    parameters:
      density: 0.5
      weight: 0.5
  - model: huihui-ai/Mistral-Small-24B-Instruct-2501-abliterated
    parameters:
      density: 0.5
      weight: 0.5
  - model: TheDrummer/Cydonia-24B-v2
    parameters:
      density: 0.5
      weight: 0.5
  - model: huihui-ai/Arcee-Blitz-abliterated
    parameters:
      density: 0.5
      weight: 0.5

    
merge_method: dare_ties
base_model: mistralai/Mistral-Small-24B-Instruct-2501
parameters:
  normalize: false
  int8_mask: true
dtype: float16

信息表格