Medra

🚀 Medra：您的紧凑型医学推理伙伴

Medra是一款专门打造的轻量级医学语言模型，旨在辅助临床推理、医学教育以及对话建模。它基于Gemma 3构建，是创建可部署、可解释且符合伦理的医学人工智能支持系统这一长期项目的第一步。该模型体积小巧，可在消费级硬件上运行；功能强大，能处理细致的医学提示；且坚守原则，绝不妄图取代人类的判断。

🚀 快速开始

Medra是一款专门为医学领域打造的轻量级语言模型，基于Gemma 3构建。它旨在辅助临床推理、医学教育和对话建模，是创建可部署、可解释且符合伦理的医学人工智能支持系统的第一步。该模型体积小巧，可在消费级硬件上运行，能处理细致的医学提示，且不会妄图取代人类的判断。

✨ 主要特性

• 轻量级临床推理核心：Medra经过微调，可支持结构化的医学查询、诊断步骤、SOAP格式以及临床提问策略。
• 本地和移动友好：以GGUF（Q4、Q8、BF16）格式提供，Medra可通过Ollama、LM Studio、KoboldCpp和其他本地推理引擎在本地设备上运行，无需API。
• 数据与对齐：在包括PubMed衍生文献、推理数据集（如R1蒸馏）、临床笔记以及模仿现实世界医生互动的提示结构等医学内容上进行训练。
• 高可解释性：设计注重透明度和反思性，而非黑盒决策。当像对待合作伙伴一样向其提问时，Medra能发挥最佳效果。
• 伦理集成设计：明确旨在与人类协作，在医疗环境中保持谨慎和实用性。

📚 详细文档

目的与理念

Medra的开发旨在填补当前人工智能领域的一个关键空白。虽然许多通用大语言模型在开放领域对话方面表现出色，但很少有模型针对结构化的医学相关推理进行优化。更少的模型能够在本地、离线和实时运行，特别是在无法访问大型模型或这样做不符合伦理的环境中。

Medra旨在提供：

• 用于病例模拟和回顾的可解释输出
• 支持鉴别诊断探索
• 为医学生提供反思伙伴
• 在实际临床环境中提供推理改进框架

本项目基于这样一种信念：医疗领域的人工智能必须是透明的、具有教育意义的，并且是辅助性的，而不是自主的、掠夺性的或误导性的。

预期用途

• 医学教育和考试式推理
• 基于病例的学习模拟
• 人工智能健康助手原型设计
• 治疗或诊断背景下的对话建模
• 作为思考伙伴，而非替代人类思考

局限性

• Medra不是持牌医疗专业人员，在没有人类监督的情况下，它不用于实际诊断、治疗规划或患者互动。
• 在极端情况下，模型可能会产生幻觉、过度简化或提供过时的医学知识。
• Medra目前没有长期记忆、无法访问现实世界的临床数据，也没有指导医疗护理的权限。
• 它是一个原型，是一个基础，而不是专业知识的最终替代品。

Medra家族

Medra是不断发展的医学推理模型家族的一部分：

• Medra：基于Gemma的紧凑型模型，用于轻量级本地推理
• MedraQ：基于Qwen 3的多语言自适应版本
• MedraOmni：未来基于Qwen 2.5 Omni构建的旗舰模型，支持全多模态

该系列中的每个模型都是有针对性地构建的，在伦理上有明确范围，专注于负责任地增强医疗知识，而不是取代它。

结束语

Medra的存在是因为医学需要能够体现关怀，而不仅仅是计算的工具。它虽小，但有明确的目标；虽具实验性，但态度严肃。它的构建只有一个目的：

让智能医疗更易获取、更透明，并更好地服务于人类。

上传的微调模型

• 开发者：drwlf
• 许可证：apache - 2.0
• 微调基础模型：unsloth/gemma - 3 - 4b - it - unsloth - bnb - 4bit

这个Gemma3模型使用Unsloth和Huggingface的TRL库进行训练，速度提高了2倍。

🔧 技术细节

• 基础模型：Gemma 3
• 微调阶段：指令微调（STF）；计划在后续版本中进行基于人类反馈的强化学习（RLHF）
• 数据领域：医学问答、鉴别诊断格式、临床对话数据集、PubMed衍生材料
• 支持的推理引擎：Ollama、LM Studio、KoboldCpp、GGML兼容平台
• 量化格式：Q4、Q8、BF16

📄 许可证

本项目采用Apache 2.0许可证。