🚀 大语言模型心理健康助手
这是一个基于大语言模型(LLMs)能力微调的Llama-3-8B-instruct模型,旨在为心理健康提供初步支持和指导。它是LLaMA 3模型的微调版本,专门针对心理健康咨询对话进行训练。

🚀 快速开始
使用以下代码开始使用该模型。
读取模型
from peft import PeftModel, PeftConfig
from transformers import AutoModelForCausalLM
model_id = "zementalist/llama-3-8B-chat-psychotherapist"
config = PeftConfig.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(config.base_model_name_or_path)
model = PeftModel.from_pretrained(model, model_id)
推理
question = "I feel like I don't exist and my body is not my own, I'm sombody else observing me, what causes these ideas?"
messages = [
{"role": "system", "content": "Answer the following inquiry:"},
{"role": "user", "content": question}
]
input_ids = tokenizer.apply_chat_template(
messages,
add_generation_prompt=True,
return_tensors="pt"
).to(model.device)
terminators = [
tokenizer.eos_token_id,
tokenizer.convert_tokens_to_ids("<|eot_id|>")
]
outputs = model.generate(
input_ids,
max_new_tokens=256,
eos_token_id=terminators,
do_sample=True,
temperature=0.01
)
response = outputs[0][input_ids.shape[-1]:]
output = tokenizer.decode(response, skip_special_tokens=True)
print(output)
✨ 主要特性
Llama-3-8B-chat-psychotherapist
- 积极倾听:该模型经过训练,能够遵循对话流程,专注回应用户表达。
- 提供共情支持:模型的回复旨在给予支持和理解,为用户营造一个安全的空间,让他们可以分享自己的担忧。
- 引导用户进行自我反思:模型可以提出开放性问题,促使用户探索自己的想法和感受。
- 提供资源和信息:根据对话内容,模型可以为用户提供相关的心理健康资源和信息。
重要提示
⚠️ 重要提示
此模型仅用于初步支持和指导,不能替代专业的心理健康护理。如果需要,用户应寻求专业帮助。该模型仍在开发中,其回复可能需要人工监督以确保准确性和安全性。
进一步考虑
你可以指定模型所训练的心理健康对话类型(例如,焦虑、抑郁、总体幸福感)。简要提及用于微调的数据集,以展示模型的训练基础。如果适用,提及模型的任何局限性,例如无法进行诊断或提供具体的治疗方案。
📦 安装指南
暂未提供安装相关内容,可参考上述代码示例进行使用。
📚 详细文档
模型细节
该模型是基于Llama-3-8B-chat进行微调得到的心理健康助手,名为Llama-3-8B-chat-psychotherapist。
训练数据
训练超参数
属性 |
详情 |
训练轮数 (epochs) |
2 |
学习率 (learning rate) |
6e - 5 |
学习率调度器类型 (learning rate scheduler type) |
constant |
预热比例 (Warmup ratio) |
0.03 |
优化器 (optimizer) |
paged_adamw_32bit |
权重衰减 (weight_decay) |
0.001 |
混合精度 (fp16) |
True |
评估结果
步骤 (Step) |
训练损失 (Training Loss) |
100 |
2.637700 |
200 |
2.350900 |
300 |
2.234500 |
400 |
2.230800 |
500 |
2.194900 |
600 |
2.041100 |
700 |
2.033800 |
800 |
1.988600 |
900 |
1.898900 |
1000 |
1.823600 |
1100 |
1.943700 |
1200 |
1.789900 |
1300 |
1.840700 |
1400 |
1.760900 |
1500 |
1.718400 |
1600 |
1.725600 |
1700 |
1.717600 |
1800 |
1.628200 |
1900 |
1.693300 |
2000 |
1.535600 |
2100 |
1.630100 |
2200 |
1.592300 |
2300 |
1.628400 |
2400 |
1.462500 |
2500 |
1.504500 |
2600 |
1.517500 |
2700 |
1.375100 |
2800 |
1.452800 |
2900 |
1.527200 |
3000 |
1.418600 |
3100 |
1.437700 |
3200 |
1.247900 |
3300 |
1.134900 |
3400 |
1.283800 |
3500 |
1.378600 |
3600 |
1.114600 |
3700 |
1.300900 |
3800 |
1.225700 |
3900 |
1.190000 |
4000 |
1.260200 |
4100 |
1.053300 |
4200 |
1.173000 |
4300 |
1.275900 |
4400 |
1.079800 |
4500 |
1.121100 |
4600 |
1.043100 |
4700 |
1.121000 |
4800 |
1.087200 |
4900 |
1.102400 |
5000 |
1.126100 |
5100 |
1.182200 |
5200 |
1.156500 |
5300 |
0.979700 |
5400 |
1.145300 |
5500 |
1.018100 |
5600 |
1.070500 |
5700 |
0.954900 |
5800 |
1.074200 |
5900 |
1.022800 |
6000 |
1.037700 |
6100 |
0.913400 |
6200 |
0.929500 |
推理示例
问题1
问:我感觉自己不存在,身体也不属于自己,就好像有别人在观察我,这可能是什么病症?
答:你描述的是一种被称为人格解体的现象。它是焦虑症、创伤后应激障碍(PTSD)和其他心理健康状况的常见症状。人格解体可能会让你觉得自己在从外部观察自己,就像在看一部关于自己的电影或读一本书。你可能还会觉得自己无法控制自己的身体,或者觉得自己只是一个木偶。这种感觉可能会非常痛苦,会让你怀疑自己是否还活着。这是一种非常令人迷失方向和不安的经历。如果你正在经历人格解体,重要的是向心理健康专业人士寻求帮助。他们可以帮助你确定你感受的潜在原因,并制定应对策略来管理它们。
问题2
问:我做决定时总是很困惑,无法选择一个选项,必须只有一个选项我才能做决定,优柔寡断的原因是什么?
答:优柔寡断是许多人都会经历的常见现象。它不是一种心理健康状况,但可能会令人沮丧且耗时。以下是一些可能导致优柔寡断的原因:
- 害怕做出错误的决定:有时,人们害怕做出错误的选择,这可能导致优柔寡断。这种恐惧可能是由于各种因素造成的,例如害怕失败、害怕被拒绝或害怕未知。
- 缺乏明确的目标:当人们没有明确的目标时,他们可能会优柔寡断。这是因为他们不知道自己想要什么,这可能导致困惑和优柔寡断。
- 过度思考:过度思考可能是优柔寡断的一个主要原因。当人们过度思考时,他们可能会陷入自己的想法中,无法做出决定。
- 缺乏自信:缺乏自信的人可能会优柔寡断。这是因为他们不相信自己,害怕做出错误的决定。
- 回避:回避做决定可能是优柔寡断的一个原因。当人们回避做决定时,他们可能会优柔寡断,因为他们不知道该怎么做。
开发者
[Zeyad Khalid]
📄 许可证
本项目采用MIT许可证。