PULSE 7bv5

🚀 PULSE

PULSEは、医学分野の自然言語処理タスクをサポートする大規模言語モデルです。Bloom 7Bモデルをベースに、医学および一般分野のデータで微調整されています。

🚀 クイックスタート

このセクションでは、PULSEモデルの基本的な使い方を説明します。まずは、モデルのダウンロードとインストールから始めましょう。

✨ 主な機能

• 大規模訓練：PULSEモデルは、Bloom 7Bモデルをベースに、約400万件の医学分野と一般分野のSFTデータを使用して微調整されています。
• 総合的な医学自然言語処理タスク：健康教育、医師試験問題、レポート解釈、医療記録の構造化、模擬診断と治療など、医学分野の様々な自然言語処理タスクをサポートしています。

📦 インストール

ハードウェア要件

以下は、batch size=1でPULSEをローカルでデプロイして推論するために必要なVRAMのサイズです。

ダウンロードとインストール

1. このリポジトリをローカルまたはリモートサーバーにダウンロードします。

git clone https://github.com/openmedlab/PULSE
cd PULSE

2. conda環境を作成し、依存関係をインストールします。

conda env create -f llm.yml
conda activate llm

torchとtransformersのバージョンは、推奨バージョンより低くしないことをお勧めします。

💻 使用例

基本的な使用法

ウェブデモ

Gradio

python web_demo_gradio.py

コマンドラインデモ

リポジトリ内のcli_demo.pyを実行すると、簡単なコマンドラインデモを起動できます。

python cli_demo.py

📚 ドキュメント

オープンソースモデル

• PULSE-7bv5

モデルの制限事項

モデルのパラメータ数が少なく、自己回帰生成パラダイムのため、モデルが提供する疾患の診断と治療に関する推論結果は、実際の医師のアドバイスや治療法を代替するものではありません。すべての回答は参考としてのみ使用され、診断や治療の根拠として使用すべきではありません。疾患の診断や治療が必要な場合は、専門医の助けとアドバイスを求めることを強くお勧めします。

Elo評価

🔧 技術詳細

本モデルは、Bloom 7Bモデルをベースに、医学分野と一般分野のデータを用いて微調整されています。具体的には、約400万件のSFTデータを使用しています。

📄 ライセンス

本プロジェクトのコードはApache 2.0ライセンスの下で提供され、モデルの重みはGNU AGPL 3.0ライセンスの下で提供されます。本プロジェクトのモデルやその修正版を使用してサービスを提供する際に、誤解を招くまたは有害な言論が生じ、悪影響を及ぼした場合、その責任はサービス提供者にあり、本プロジェクトには関係ありません。

謝辞

• 上海人工知能研究所
• 上海交通大学 - 清淵研究院
• 華東理工大学 - 自然言語処理とビッグデータマイニング研究所