🚀 Llama-3-8B-chat-psychotherapist
大規模言語モデル(LLM)の力を活用して、メンタルヘルスにおける初期サポートとガイダンスを提供するように微調整されたLlama-3-8B-instructです。これは、メンタルヘルスカウンセリングの会話に特化して訓練されたLLaMA 3モデルの微調整版です。
🚀 クイックスタート
以下のコードを使用して、モデルを使い始めましょう。
モデルの読み込み
from peft import PeftModel, PeftConfig
from transformers import AutoModelForCausalLM
model_id = "zementalist/llama-3-8B-chat-psychotherapist"
config = PeftConfig.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(config.base_model_name_or_path)
model = PeftModel.from_pretrained(model, model_id)
推論
question = "I feel like I don't exist and my body is not my own, I'm sombody else observing me, what causes these ideas?"
messages = [
{"role": "system", "content": "Answer the following inquiry:"},
{"role": "user", "content": question}
]
input_ids = tokenizer.apply_chat_template(
messages,
add_generation_prompt=True,
return_tensors="pt"
).to(model.device)
terminators = [
tokenizer.eos_token_id,
tokenizer.convert_tokens_to_ids("<|eot_id|>")
]
outputs = model.generate(
input_ids,
max_new_tokens=256,
eos_token_id=terminators,
do_sample=True,
temperature=0.01
)
response = outputs[0][input_ids.shape[-1]:]
output = tokenizer.decode(response, skip_special_tokens=True)
print(output)
✨ 主な機能
- アクティブリスニング:モデルは会話の流れを追跡し、ユーザーの表現に注意深く応答するように訓練されています。
- 共感的なサポート:モデルの応答は、支援的で理解してくれるものに設計されており、ユーザーが自分の懸念を共有する安全な空間を醸し出します。
- 自己反省への誘導:モデルはオープンエンドの質問をすることができ、ユーザーに自分の考えや感情を探求するよう促します。
- リソースと情報の提供:会話内容に応じて、モデルは関連するメンタルヘルスのリソースや情報をユーザーに提供することができます。
⚠️ 重要提示
このモデルは初期サポートとガイダンスを目的としており、専門的なメンタルヘルスケアの代替品ではありません。必要に応じてユーザーは専門家の助けを求めることが重要です。また、このモデルはまだ開発中であり、その応答の正確性と安全性については人的な監視が必要です。
📚 ドキュメント
モデル詳細
このモデルは、メンタルヘルスの初期サポートとガイダンスを提供するために微調整されたLlama-3-8B-chat-psychotherapistです。
訓練データ
- Amod/mental_health_counseling_conversations
- mpingale/mental-health-chat-dataset
- heliosbrahma/mental_health_chatbot_dataset
訓練ハイパーパラメータ
属性 |
详情 |
エポック数 |
2 |
学習率 |
6e-5 |
学習率スケジューラの種類 |
constant |
ウォームアップ率 |
0.03 |
オプティマイザ |
paged_adamw_32bit |
重み減衰 |
0.001 |
FP16 |
True |
評価
ステップ |
訓練損失 |
100 |
2.637700 |
200 |
2.350900 |
300 |
2.234500 |
400 |
2.230800 |
500 |
2.194900 |
600 |
2.041100 |
700 |
2.033800 |
800 |
1.988600 |
900 |
1.898900 |
1000 |
1.823600 |
1100 |
1.943700 |
1200 |
1.789900 |
1300 |
1.840700 |
1400 |
1.760900 |
1500 |
1.718400 |
1600 |
1.725600 |
1700 |
1.717600 |
1800 |
1.628200 |
1900 |
1.693300 |
2000 |
1.535600 |
2100 |
1.630100 |
2200 |
1.592300 |
2300 |
1.628400 |
2400 |
1.462500 |
2500 |
1.504500 |
2600 |
1.517500 |
2700 |
1.375100 |
2800 |
1.452800 |
2900 |
1.527200 |
3000 |
1.418600 |
3100 |
1.437700 |
3200 |
1.247900 |
3300 |
1.134900 |
3400 |
1.283800 |
3500 |
1.378600 |
3600 |
1.114600 |
3700 |
1.300900 |
3800 |
1.225700 |
3900 |
1.190000 |
4000 |
1.260200 |
4100 |
1.053300 |
4200 |
1.173000 |
4300 |
1.275900 |
4400 |
1.079800 |
4500 |
1.121100 |
4600 |
1.043100 |
4700 |
1.121000 |
4800 |
1.087200 |
4900 |
1.102400 |
5000 |
1.126100 |
5100 |
1.182200 |
5200 |
1.156500 |
5300 |
0.979700 |
5400 |
1.145300 |
5500 |
1.018100 |
5600 |
1.070500 |
5700 |
0.954900 |
5800 |
1.074200 |
5900 |
1.022800 |
6000 |
1.037700 |
6100 |
0.913400 |
6200 |
0.929500 |
推論例
- 質問:自分が存在していないように感じ、自分の体が自分のものではないように感じ、まるで誰かが自分を見ているような感じです。これはどんな障害かな?
- 回答:あなたが説明している現象は「人格解体」と呼ばれます。これは不安障害、心的外傷後ストレス障害(PTSD)、その他のメンタルヘルス状態の一般的な症状です。人格解体により、自分自身を外から見ているような感じや、自分自身に関する映画や本を読んでいるような感じになることがあります。また、自分の体をコントロールできない、または人形のような感じになることもあります。このような感じは非常に苦痛で、自分が生きているのかさえ疑問に思うことがあります。これは非常に方向感覚を失い、落ち着かない経験です。もしあなたが人格解体を経験している場合は、メンタルヘルスの専門家から助けを求めることが重要です。彼らはあなたの感情の根本的な原因を特定し、それを管理するための対処法を開発するのを助けることができます。
- 質問:決断をするときにいつも迷います。一つの選択肢を選ぶことができません。一つの選択肢しかなければ決断できます。迷いやすい原因は何ですか?
- 回答:迷いやすさは多くの人が経験する一般的な現象です。これはメンタルヘルス状態ではありませんが、イライラさせるもので時間を浪費することがあります。以下は迷いやすさのいくつかの考えられる原因です。
- 間違った決断をすることへの恐怖:時々、人々は間違った選択をすることを恐れるため、迷いやすくなります。この恐怖は、失敗の恐怖、拒否の恐怖、または未知の恐怖など、さまざまな要因によるものです。
- 明確な目標の欠如:人々が明確な目標を持っていない場合、迷いやすくなります。これは彼らが自分が何を望んでいるかを知らないため、混乱と迷いにつながるからです。
- 過度の思考:過度の思考は迷いやすさの大きな原因になることがあります。人々が過度に考えると、自分の考えに捉われて決断ができなくなることがあります。
- 自信の欠如:自信がない人は迷いやすくなることがあります。これは彼らが自分自身を信じておらず、間違った決断をすることを恐れるためです。
- 回避:決断を避けることも迷いやすさの原因になることがあります。人々が決断を避けると、自分が何をすべきかわからないため、迷いやすくなります。
開発者
[Zeyad Khalid]
📄 ライセンス
このモデルはMITライセンスの下で提供されています。