Mental Alpaca

🚀 mental-alpacaのモデルカード

このモデルは、オンラインテキストデータを用いたメンタルヘルス予測のためにファインチューニングされた大規模言語モデルです。

📚 ドキュメント

モデルの説明

メンタルヘルス予測シナリオに対して、Alpacaモデルを4つの高品質テキスト（合計6つのタスク）データセット（Dreaddit、DepSeverity、SDCNL、CCRS-Suicide）でファインチューニングしました。 また、FLAN - T5 - XXLをベースにファインチューニングした別のモデル、Mental - FLAN - T5をこちらで公開しています。

モデルのソース

• リポジトリ: https://github.com/neuhai/Mental-LLM
• 論文: https://arxiv.org/abs/2307.14385

💻 使用例

直接使用

このモデルは英語での研究目的のみに使用することを想定しています。 オンラインテキストデータを用いたメンタルヘルス予測のためにファインチューニングされています。ファインチューニングプロセスとプロンプトに関する詳細情報は、論文を参照してください。 このモデルの使用は、stanford_alpacaプロジェクトとLlama - 2 - 7bの制限にも準拠する必要があります。

想定外の使用

このモデルの想定外の使用は、stanford_alpacaプロジェクトとLlama - 2 - 7bの制限に準拠する必要があります。

🔧 技術詳細

このモデルのバイアス、リスク、制限事項は、stanford_alpacaプロジェクトとLlama - 2 - 7bの制限にも準拠する必要があります。

🚀 クイックスタート

以下のコードを使用して、モデルを始めることができます。

from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("NEU-HAI/Llama-2-7b-alpaca-cleaned")
model = AutoModelForCausalLM.from_pretrained("NEU-HAI/Llama-2-7b-alpaca-cleaned")

訓練の詳細と評価

私たちの研究に関する詳細情報は、論文を参照してください。

📄 ライセンス

このモデルはcc - by - nc - 4.0ライセンスの下で提供されています。

引用

@article{xu2023leveraging,
  title={Mental-LLM: Leveraging large language models for mental health prediction via online text data},
  author={Xu, Xuhai and Yao, Bingshen and Dong, Yuanzhe and Gabriel, Saadia and Yu, Hong and Ghassemi, Marzyeh and Hendler, James and Dey, Anind K and Wang, Dakuo},
  journal={arXiv preprint arXiv:2307.14385},
  year={2023}
}