Llama 3 Psychology LoRA Stock 8B

🚀 預訓練語言模型合併項目

本項目是使用 mergekit 對預訓練語言模型進行合併的成果。通過合併多個相關模型，旨在提升模型在心理健康相關領域的性能和表現。

🚀 快速開始

本項目主要圍繞預訓練語言模型的合併展開，若你想使用此合併後的模型，可參考後續的合併細節進行操作。

✨ 主要特性

• 多模型合併：將多個與心理健康相關的預訓練語言模型進行合併，綜合各模型優勢。
• 特定方法合併：採用 Model Stock 合併方法，以 Casual-Autopsy/Llama-3-Mental-Therapy-Cat-8B 為基礎模型。

📚 詳細文檔

🔍 合併詳情

合併方法

本模型採用 Model Stock 合併方法，以 Casual-Autopsy/Llama-3-Mental-Therapy-Cat-8B 作為基礎模型進行合併。

參與合併的模型

以下是參與合併的模型組合：

• Casual-Autopsy/Llama-3-Mental-Therapy-Cat-8B + PrahmodhRaj/Llama-3_Psychiatrist_Chat
• Casual-Autopsy/Llama-3-Mental-Therapy-Cat-8B + zementalist/llama-3-8B-chat-psychotherapist
• Casual-Autopsy/Llama-3-Mental-Therapy-Cat-8B + Falah/lora_model_mental_health_llama3
• Casual-Autopsy/Llama-3-Mental-Therapy-Cat-8B + Abdo36/MentalLORALLAMA3

配置信息

以下是用於生成此模型的 YAML 配置：

models:
  - model: Casual-Autopsy/Llama-3-Mental-Therapy-Cat-8B+Falah/lora_model_mental_health_llama3
  - model: Casual-Autopsy/Llama-3-Mental-Therapy-Cat-8B+Abdo36/MentalLORALLAMA3
  - model: Casual-Autopsy/Llama-3-Mental-Therapy-Cat-8B+zementalist/llama-3-8B-chat-psychotherapist
  - model: Casual-Autopsy/Llama-3-Mental-Therapy-Cat-8B+PrahmodhRaj/Llama-3_Psychiatrist_Chat
merge_method: model_stock
base_model: Casual-Autopsy/Llama-3-Mental-Therapy-Cat-8B
dtype: bfloat16

📄 模型信息表格