Llama 3 Psychology LoRA Stock 8B

🚀 预训练语言模型合并项目

本项目是使用 mergekit 对预训练语言模型进行合并的成果。通过合并多个相关模型，旨在提升模型在心理健康相关领域的性能和表现。

🚀 快速开始

本项目主要围绕预训练语言模型的合并展开，若你想使用此合并后的模型，可参考后续的合并细节进行操作。

✨ 主要特性

• 多模型合并：将多个与心理健康相关的预训练语言模型进行合并，综合各模型优势。
• 特定方法合并：采用 Model Stock 合并方法，以 Casual-Autopsy/Llama-3-Mental-Therapy-Cat-8B 为基础模型。

📚 详细文档

🔍 合并详情

合并方法

本模型采用 Model Stock 合并方法，以 Casual-Autopsy/Llama-3-Mental-Therapy-Cat-8B 作为基础模型进行合并。

参与合并的模型

以下是参与合并的模型组合：

• Casual-Autopsy/Llama-3-Mental-Therapy-Cat-8B + PrahmodhRaj/Llama-3_Psychiatrist_Chat
• Casual-Autopsy/Llama-3-Mental-Therapy-Cat-8B + zementalist/llama-3-8B-chat-psychotherapist
• Casual-Autopsy/Llama-3-Mental-Therapy-Cat-8B + Falah/lora_model_mental_health_llama3
• Casual-Autopsy/Llama-3-Mental-Therapy-Cat-8B + Abdo36/MentalLORALLAMA3

配置信息

以下是用于生成此模型的 YAML 配置：

models:
  - model: Casual-Autopsy/Llama-3-Mental-Therapy-Cat-8B+Falah/lora_model_mental_health_llama3
  - model: Casual-Autopsy/Llama-3-Mental-Therapy-Cat-8B+Abdo36/MentalLORALLAMA3
  - model: Casual-Autopsy/Llama-3-Mental-Therapy-Cat-8B+zementalist/llama-3-8B-chat-psychotherapist
  - model: Casual-Autopsy/Llama-3-Mental-Therapy-Cat-8B+PrahmodhRaj/Llama-3_Psychiatrist_Chat
merge_method: model_stock
base_model: Casual-Autopsy/Llama-3-Mental-Therapy-Cat-8B
dtype: bfloat16

📄 模型信息表格