Mentalbart

🚀 MentalBART

MentalBARTは、説明可能な精神健康分析を行うための最初のオープンソース大規模言語モデル（LLM）シリーズであるMentaLLaMAプロジェクトの一部です。このモデルは、facebook/bart-largeの基礎モデルとIMHIの完全な命令微調整データを基に微調整されています。様々な精神健康状態に対して複雑な精神健康分析を行い、各予測に対して信頼性の高い説明を提供することが期待されています。

🚀 クイックスタート

MentalBARTは、説明可能な精神健康分析を行うためのオープンソースの大規模言語モデルです。このモデルは、様々な精神健康状態に対して複雑な分析を行い、各予測に対して信頼性の高い説明を提供します。

✨ 主な機能

• 様々な精神健康状態に対する複雑な精神健康分析を行うことができます。
• 各予測に対して信頼性の高い説明を提供します。
• IMHIデータセットで微調整されており、下流タスクでの性能が向上しています。

📦 インストール

このモデルをPythonプロジェクトで使用するには、Hugging Face Transformersライブラリを利用できます。以下は、モデルをロードする簡単な例です。

基本的な使用法

from transformers import BartTokenizer, BartModel
tokenizer = BartTokenizer.from_pretrained('Tianlin668/MentalBART')
model = BartModel.from_pretrained('Tianlin668/MentalBART')

📚 ドキュメント

モデルの概要

MentalBARTは、facebook/bart-largeの基礎モデルとIMHIの完全な命令微調整データを基に微調整されたモデルです。75Kの高品質自然言語命令を含むIMHIデータセットで微調整され、下流タスクでの性能が向上しています。20Kのテストサンプルを含むIMHIベンチマークで包括的な評価を行った結果、MentalBARTは正確性と説明生成において良好な性能を達成しています。

倫理的な考慮事項

MentalBARTの実験結果は、説明可能な精神健康分析において有望な性能を示していますが、すべての予測結果と生成された説明は非臨床研究のみに使用すべきであり、相談者は専門の精神科医や臨床医から支援を受けるべきです。また、最近の研究では、大規模言語モデルには性別格差などの潜在的なバイアスが含まれる可能性があることが示されています。同時に、不正確な予測結果、不適切な説明、過剰な一般化なども、現在の大規模言語モデルの潜在的なリスクを示しています。したがって、このモデルを実際の精神健康監視システムに適用するには、まだ多くの課題が残っています。

MentaLLaMAの他のモデル

MentaLLaMAプロジェクトには、MentalBARTの他にもいくつかのモデルが含まれています。

• MentaLLaMA-chat-13B：このモデルは、Meta LLaMA2-chat-13Bの基礎モデルとIMHIの完全な命令微調整データを基に微調整されています。学習データは10の精神健康分析タスクをカバーしています。
• MentaLLaMA-chat-7B：このモデルは、Meta LLaMA2-chat-7Bの基礎モデルとIMHIの完全な命令微調整データを基に微調整されています。学習データは10の精神健康分析タスクをカバーしています。
• MentalT5：このモデルは、T5-largeの基礎モデルとIMHIの完全な補完データを基に微調整されています。学習データは10の精神健康分析タスクをカバーしています。このモデルは命令追従能力を持たないが、軽量であり、補完ベースの説明可能な精神健康分析で良好な性能を発揮します。

📄 ライセンス

MentalBARTはMITライセンスの下で提供されています。詳細については、MITファイルを参照してください。

引用

もしあなたの研究でMentalBARTを使用した場合は、以下の論文を引用してください。

@misc{yang2023mentalllama,
      title={MentalLLaMA: Interpretable Mental Health Analysis on Social Media with Large Language Models}, 
      author={Kailai Yang and Tianlin Zhang and Ziyan Kuang and Qianqian Xie and Sophia Ananiadou},
      year={2023},
      eprint={2309.13567},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}

⚠️ 重要提示

すべての予測結果と生成された説明は非臨床研究のみに使用すべきであり、相談者は専門の精神科医や臨床医から支援を受けるべきです。

💡 使用建议

このモデルを使用する際には、潜在的なバイアスや不正確な予測結果に注意してください。