Llama 3 8B Chat Psychotherapist

🚀 大語言模型心理健康助手

這是一個基於大語言模型（LLMs）能力微調的Llama-3-8B-instruct模型，旨在為心理健康提供初步支持和指導。它是LLaMA 3模型的微調版本，專門針對心理健康諮詢對話進行訓練。

🚀 快速開始

使用以下代碼開始使用該模型。

讀取模型

from peft import PeftModel, PeftConfig
from transformers import AutoModelForCausalLM

model_id = "zementalist/llama-3-8B-chat-psychotherapist"
config = PeftConfig.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(config.base_model_name_or_path)
model = PeftModel.from_pretrained(model, model_id)

推理

question = "I feel like I don't exist and my body is not my own, I'm sombody else observing me, what causes these ideas?"

messages = [
    {"role": "system", "content": "Answer the following inquiry:"},
    {"role": "user", "content": question}
]

input_ids = tokenizer.apply_chat_template(
    messages,
    add_generation_prompt=True,
    return_tensors="pt"
).to(model.device)

terminators = [
    tokenizer.eos_token_id,
    tokenizer.convert_tokens_to_ids("<|eot_id|>")
]

outputs = model.generate(
    input_ids,
    max_new_tokens=256,
    eos_token_id=terminators,
    do_sample=True,
    temperature=0.01
)
response = outputs[0][input_ids.shape[-1]:]
output = tokenizer.decode(response, skip_special_tokens=True)

print(output)

✨ 主要特性

Llama-3-8B-chat-psychotherapist

• 積極傾聽：該模型經過訓練，能夠遵循對話流程，專注回應用戶表達。
• 提供共情支持：模型的回覆旨在給予支持和理解，為用戶營造一個安全的空間，讓他們可以分享自己的擔憂。
• 引導用戶進行自我反思：模型可以提出開放性問題，促使用戶探索自己的想法和感受。
• 提供資源和信息：根據對話內容，模型可以為用戶提供相關的心理健康資源和信息。

重要提示

⚠️ 重要提示

此模型僅用於初步支持和指導，不能替代專業的心理健康護理。如果需要，用戶應尋求專業幫助。該模型仍在開發中，其回覆可能需要人工監督以確保準確性和安全性。

進一步考慮

你可以指定模型所訓練的心理健康對話類型（例如，焦慮、抑鬱、總體幸福感）。簡要提及用於微調的數據集，以展示模型的訓練基礎。如果適用，提及模型的任何侷限性，例如無法進行診斷或提供具體的治療方案。

📦 安裝指南

暫未提供安裝相關內容，可參考上述代碼示例進行使用。

📚 詳細文檔

模型細節

該模型是基於Llama-3-8B-chat進行微調得到的心理健康助手，名為Llama-3-8B-chat-psychotherapist。

訓練數據

• Amod/mental_health_counseling_conversations
• mpingale/mental-health-chat-dataset
• heliosbrahma/mental_health_chatbot_dataset

訓練超參數

評估結果

推理示例

問題1

問：我感覺自己不存在，身體也不屬於自己，就好像有別人在觀察我，這可能是什麼病症？ 答：你描述的是一種被稱為人格解體的現象。它是焦慮症、創傷後應激障礙（PTSD）和其他心理健康狀況的常見症狀。人格解體可能會讓你覺得自己在從外部觀察自己，就像在看一部關於自己的電影或讀一本書。你可能還會覺得自己無法控制自己的身體，或者覺得自己只是一個木偶。這種感覺可能會非常痛苦，會讓你懷疑自己是否還活著。這是一種非常令人迷失方向和不安的經歷。如果你正在經歷人格解體，重要的是向心理健康專業人士尋求幫助。他們可以幫助你確定你感受的潛在原因，並制定應對策略來管理它們。

問題2

問：我做決定時總是很困惑，無法選擇一個選項，必須只有一個選項我才能做決定，優柔寡斷的原因是什麼？ 答：優柔寡斷是許多人都會經歷的常見現象。它不是一種心理健康狀況，但可能會令人沮喪且耗時。以下是一些可能導致優柔寡斷的原因：

1. 害怕做出錯誤的決定：有時，人們害怕做出錯誤的選擇，這可能導致優柔寡斷。這種恐懼可能是由於各種因素造成的，例如害怕失敗、害怕被拒絕或害怕未知。
2. 缺乏明確的目標：當人們沒有明確的目標時，他們可能會優柔寡斷。這是因為他們不知道自己想要什麼，這可能導致困惑和優柔寡斷。
3. 過度思考：過度思考可能是優柔寡斷的一個主要原因。當人們過度思考時，他們可能會陷入自己的想法中，無法做出決定。
4. 缺乏自信：缺乏自信的人可能會優柔寡斷。這是因為他們不相信自己，害怕做出錯誤的決定。
5. 迴避：迴避做決定可能是優柔寡斷的一個原因。當人們迴避做決定時，他們可能會優柔寡斷，因為他們不知道該怎麼做。

開發者

[Zeyad Khalid]

📄 許可證

本項目採用MIT許可證。