Lingshu 32B GGUF

🚀 臨書-32B GGUFモデル

医療分野の多モーダル大規模言語モデルで、画像とテキストを用いた多様な医療タスクを効果的に処理します。

🚀 クイックスタート

このモデルは、医療分野の多モーダルタスク、例えば画像とテキストを用いた質問応答やレポート生成などに使用できます。以下の情報を参考に、モデルを利用してみてください。

✨ 主な機能

• 臨書モデルは、7Bと32Bのモデルサイズで、ほとんどの医療多モーダル/テキストQAおよびレポート生成タスクでSOTA（最先端）の性能を達成しています。
• 臨書-32Bは、多くの多モーダルQAおよびレポート生成タスクで、GPT - 4.1やClaude Sonnet 4を上回っています。
• 臨書は、X線、CTスキャン、MRI、顕微鏡検査、超音波、病理組織学、皮膚鏡検査、眼底、OCT、デジタル写真、内視鏡検査、PETなど、12種類以上の医療画像モダリティをサポートしています。

📚 詳細ドキュメント

モデル生成詳細

このモデルは、コミット238005c2時点のllama.cppを使用して生成されました。

IMatrixを超える量子化

私は、デフォルトのIMatrix構成よりも重要なレイヤーの精度を選択的に向上させる新しい量子化アプローチを実験しています。

テストでは、低ビット深度では標準のIMatrix量子化が性能が低下し、特にエキスパート混合（MoE）モデルで顕著です。この問題を解決するために、llama.cppの--tensor - typeオプションを使用して、重要なレイヤーを手動でより高い精度に引き上げています。実装はこちらで確認できます：
👉 [llama.cppによるレイヤーの引き上げ](https://github.com/Mungert69/GGUFModelBuilder/blob/main/model - converter/tensor_list_builder.py)

これによりモデルファイルサイズは増加しますが、特定の量子化レベルでの精度が大幅に向上します。

適切なGGUFモデル形式の選択に関する情報

ここをクリックして、適切なGGUFモデル形式の選択に関する情報を取得

モデルの公開情報

• 技術レポート: Arxiv: Lingshu: A Generalist Foundation Model for Unified Multimodal Medical Understanding and Reasoning
• モデルの重み:
  • 臨書-7B
  • 臨書-32B

免責事項

⚠️ 重要提示

重み、コード、デモはオープンに公開されていますが、他の事前学習言語モデルと同様に、私たちが最善を尽くしてレッドチーミング、セキュリティ微調整、およびセキュリティ強化を行ったにもかかわらず、モデルには不正確、誤解を招く、または潜在的に有害な生成を含む潜在的なリスクがあります。 開発者や関係者は、デプロイ前に独自のレッドチーミングを行い、関連するセキュリティ対策を講じる必要があり、また、現地の規制や法令を遵守しなければなりません。 公開された重み、コード、またはデモの使用に起因するいかなる請求、損害、またはその他の責任について、著者は一切の責任を負いません。

🔧 技術詳細

評価

医療多モーダルVQA

医療テキストQA

医療レポート生成

📄 ライセンス

このモデルはMITライセンスの下で公開されています。