Medra4b LORA

🚀 Medra：您的輕量級醫療推理夥伴

Medra是一款專門設計的輕量級醫療語言模型，旨在輔助臨床推理、醫學教育和對話建模。它基於Gemma 3構建，是創建可部署、可解釋且符合倫理的醫療人工智能支持系統這一長期項目的第一步。該模型體積小巧，可在消費級硬件上運行；功能強大，能處理複雜的醫療提示；且始終堅守原則，不會妄圖取代人類的判斷。

🚀 快速開始

Medra是一款專門構建的輕量級醫療語言模型，用於輔助臨床推理、醫學教育和對話建模。它基於Gemma 3構建，是創建可部署、可解釋且符合倫理的醫療人工智能支持系統這一長期項目的第一步。

它足夠小巧，可以在消費級硬件上運行；功能強大，能夠支持細緻入微的醫療提示；並且有原則，永遠不會假裝取代人類的判斷。

Medra不是聊天機器人，而是一種認知工具，是學生、臨床醫生和研究人員探索人工智能如何在不簡化醫療複雜性的情況下提供幫助的推理夥伴。

✨ 主要特性

填補關鍵空白

當前許多通用大語言模型在開放領域對話方面表現出色，但針對結構化、與醫學相關的推理進行優化的卻很少。能夠本地、離線且即時運行的模型更是少之又少，特別是在無法使用大型模型或使用大型模型不符合倫理的環境中。

提供多方面支持

• 可解釋的輸出：為病例模擬和回顧提供可解釋的輸出。
• 支持鑑別診斷：支持鑑別診斷探索。
• 輔助醫學生：成為醫學生的反思夥伴。
• 優化臨床推理：在實際臨床環境中提供推理優化框架。

具備多種優勢

• 輕量級臨床推理核心：經過微調，支持結構化醫療查詢、診斷步驟、SOAP格式和臨床提問策略。
• 本地和移動友好：以GGUF（Q4、Q8、BF16）格式提供，可通過Ollama、LM Studio、KoboldCpp和其他本地推理引擎在本地設備上運行，無需API。
• 數據與對齊：在包括PubMed文獻、推理數據集（如R1蒸餾）、臨床筆記和模仿真實醫生互動的提示結構等醫療內容上進行訓練。
• 高可解釋性：設計注重透明度和反思性，而非黑盒決策。在像對待合作伙伴而非先知一樣進行提示時，Medra效果最佳。
• 倫理集成設計：明確旨在與人工參與的醫療環境保持一致，謹慎且實用。

📚 詳細文檔

預期用途

• 醫學教育和考試式推理
• 基於案例的學習模擬
• 人工智能健康助手原型設計
• 治療或診斷環境中的對話建模
• 作為一種思考夥伴，而非替代人類思考

侷限性

• Medra不是持牌醫療專業人員，在沒有人工監督的情況下，不用於實際診斷、治療規劃或患者互動。
• 該模型在極端情況下可能會產生幻覺、過度簡化或提供過時的醫學知識。
• Medra目前不具備長期記憶、訪問真實臨床數據的能力，也沒有指導醫療護理的權限。
• 它是一個原型，是一個基礎，而非專業知識的最終替代品。

技術細節

• 基礎模型：Gemma 3
• 微調階段：指令微調（STF）；計劃在即將發佈的版本中進行基於人類反饋的強化學習（RLHF）
• 數據領域：醫療問答、鑑別診斷格式、臨床對話數據集、PubMed衍生材料
• 支持的推理引擎：Ollama、LM Studio、KoboldCpp、兼容GGML的平臺
• 量化格式：Q4、Q8、BF16

Medra家族

Medra是不斷發展的醫療推理模型家族的一部分：

• Medra：基於Gemma的緊湊型模型，用於輕量級本地推理
• MedraQ：基於Qwen 3的多語言自適應版本
• MedraOmni：未來基於Qwen 2.5 Omni構建的旗艦模型，支持全多模態

該系列中的每個模型都是有針對性地構建的，在倫理範圍內進行設計，並專注於負責任地增強醫療知識，而非取代它。

最後說明

Medra的誕生是因為醫學需要能夠體現關懷，而不僅僅是計算的工具。它雖小，但有明確的目標；雖具實驗性，但態度嚴肅。它的構建只有一個目的：

讓智能醫療更易獲取、更透明，並更好地服務於人類。

上傳的微調模型

• 開發者：drwlf
• 許可證：Apache 2.0
• 微調基礎模型：unsloth/gemma-3-4b-it-unsloth-bnb-4bit

這個Gemma 3模型使用Unsloth和Huggingface的TRL庫進行訓練，速度提高了2倍。

[](https://github.com/unslothai/