Llama 3 Psychology LoRA Stock 8B

🚀 モデルマージプロジェクト

このプロジェクトは、事前学習済み言語モデルをマージするものです。mergekit を使用して、複数のモデルを融合し新しいモデルを作成しています。

🚀 クイックスタート

このマージモデルは、精神療法や心理カウンセリングに特化した事前学習済み言語モデルを融合しています。以下に詳細を説明します。

📚 ドキュメント

モデル情報

マージ詳細

マージ方法

このモデルは、Model Stock マージ方法を使用して、Casual-Autopsy/Llama-3-Mental-Therapy-Cat-8B をベースにマージされました。

マージされたモデル

以下のモデルがマージに含まれています。

• Casual-Autopsy/Llama-3-Mental-Therapy-Cat-8B + PrahmodhRaj/Llama-3_Psychiatrist_Chat
• Casual-Autopsy/Llama-3-Mental-Therapy-Cat-8B + zementalist/llama-3-8B-chat-psychotherapist
• Casual-Autopsy/Llama-3-Mental-Therapy-Cat-8B + Falah/lora_model_mental_health_llama3
• Casual-Autopsy/Llama-3-Mental-Therapy-Cat-8B + Abdo36/MentalLORALLAMA3

設定

以下のYAML設定を使用してこのモデルを生成しました。

models:
  - model: Casual-Autopsy/Llama-3-Mental-Therapy-Cat-8B+Falah/lora_model_mental_health_llama3
  - model: Casual-Autopsy/Llama-3-Mental-Therapy-Cat-8B+Abdo36/MentalLORALLAMA3
  - model: Casual-Autopsy/Llama-3-Mental-Therapy-Cat-8B+zementalist/llama-3-8B-chat-psychotherapist
  - model: Casual-Autopsy/Llama-3-Mental-Therapy-Cat-8B+PrahmodhRaj/Llama-3_Psychiatrist_Chat
merge_method: model_stock
base_model: Casual-Autopsy/Llama-3-Mental-Therapy-Cat-8B
dtype: bfloat16