Five Phases Mindset

🚀 「五行心智」智能漢方診察大モデル - 漢方のインテリジェント化に新たな章を刻む

人工知能技術が急速に進歩する時代において、漢方医学のエッセンスを継承し、発展させるために、騰訊煙台新工科研究院のチームは、漢方医学大学との協力のもと、深い研究を行い、QWENに基づく智能漢方診察大モデル「五行心智」を開発しました。このモデルは、10万件レベルの診察データを用いて微調整され、ユーザーにより正確で個別化された漢方診察サービスを提供することを目指しています。

「五行心智」智能漢方診察大モデルは、名前の通り、漢方の五行理論を人工知能技術に融合させ、深層学習や自然言語処理などの技術を通じて、患者の症状の智能分析、診断、治療計画の推薦を実現します。従来の手動診察方法と比較して、この智能漢方診察大モデルには以下の利点があります。

1. 効率的で便利：患者は携帯電話やコンピューターなどのデバイスで症状を入力するだけで、システムが迅速に診断結果と治療計画を提供し、患者の待ち時間を節約します。
2. 正確で個別化：ビッグデータと深層学習技術に基づき、患者の年齢、性別、病歴などの情報に応じて、より正確で個別化された診断と提案を提供します。
3. 24時間体制のサービス：いつでもどこでも診察サービスを提供でき、時間と場所の制約を受けず、さまざまなシナリオでの患者のニーズを満たします。
4. 智能推薦：診断結果とともに、患者の実際の状況に基づいて、漢方薬、鍼灸、マッサージなどの適切な漢方治療計画を推薦し、患者の回復を支援します。
5. 継続的な学習：このモデルは継続的に学習する能力を持ち、データの蓄積と技術の更新に伴い、診断の正確性と治療効果が向上します。

「五行心智」智能漢方診察大モデルの登場は、中国の漢方のインテリジェント化の重要な一歩を示しています。近い将来、このモデルが多くの患者に便利で効率的な漢方診察体験をもたらし、漢方産業の発展に貢献することを信じています。同時に、より多くの業界関係者と協力して、漢方のインテリジェント化を推進し、人類の健康事業に貢献したいと考えています。

🚀 クイックスタート

📦 インストール

大モデルには1.8B、7B、14Bパラメータのバージョンがあります。今回オープンソースされているのは1.8Bバージョンで、GPTQを使用してint4に量子化されており、消費者向けグラフィックカードで実行できます。

便利のために、元のQWENリポジトリをクローンして依存関係のインストールを完了することをお勧めします。

git clone https://github.com/QwenLM/Qwen.git
cd Qwen
pip install -r requirements.txt

次に、autogptqをインストールしてください。

pip install auto-gptq optimum

さらに、ハードウェアがサポートしている場合は、flash-attentionを使用して推論の効率を向上させることができます。

git clone https://github.com/Dao-AILab/flash-attention
pip uninstall -y ninja && pip install ninja
cd flash-attention && pip install .

💻 使用例

基本的な使用法

インストールが完了したら、推論を行うことができます。

from transformers import AutoModelForCausalLM, AutoTokenizer
from transformers.generation import GenerationConfig


tokenizer = AutoTokenizer.from_pretrained("cookey39/Five_Phases_Mindset", trust_remote_code=True)

model = AutoModelForCausalLM.from_pretrained("cookey39/Five_Phases_Mindset", device_map="auto", trust_remote_code=True).eval()

# モデルには、生成长さやtop_pなどの異なるハイパーパラメータを指定できます。
model.generation_config = GenerationConfig.from_pretrained("cookey39/Five_Phases_Mindset", trust_remote_code=True)

# 生成テキストの多様性を制御するために、温度パラメータを設定します。
model.generation_config.temperature = 0.6

# 対話は診察形式に従う必要があります：あなたは経験豊富な漢方医で、患者の症状に基づいて診断と処方を提供します/n症状：
# 例えば
response, _ = model.chat(tokenizer, "あなたは経験豊富な漢方医で、患者の症状に基づいて診断と処方を提供します/n症状：風邪で発熱し、鼻水が出る", history=None)
print(response)

🔧 技術詳細

大モデルのデプロイについては、QWENの公式ドキュメントを参照してください。NVIDIA Triton + VLLMのデプロイ方法を使用することをお勧めします。これにより、推論速度を30倍以上に加速することができます。

「五行心智」智能漢方診察大モデルが漢方分野で広く利用され、中国の伝統医学文化の継承と発展に貢献することを楽しみにしています！

📄 ライセンス

このプロジェクトはGPL - 3.0ライセンスの下で提供されています。