Lingshu 32B GGUF

🚀 Lingshu-32B GGUF模型

Lingshu-32B GGUF模型是适用于医疗领域的多模态大语言模型，支持多种医学影像模态，在医疗问答和报告生成任务上表现出色。

🚀 快速开始

本项目包含论文 Lingshu: A Generalist Foundation Model for Unified Multimodal Medical Understanding and Reasoning 中的模型。同时，我们还在 MedEvalKit 中发布了一个全面的医学评估工具包，支持对主要多模态和文本医学任务进行快速评估。

点击此处获取选择合适GGUF模型格式的相关信息。

官网    🤖 7B模型    🤖 32B模型    MedEvalKit    技术报告

✨ 主要特性

• Lingshu 模型在7B和32B模型规模的大多数医学多模态/文本问答和报告生成任务中达到了当前最优水平（SOTA）。
• Lingshu-32B 在大多数多模态问答和报告生成任务中表现优于GPT - 4.1和Claude Sonnet 4。
• Lingshu支持超过12种医学影像模态，包括X光、CT扫描、MRI、显微镜检查、超声、组织病理学、皮肤镜检查、眼底、OCT、数码摄影、内窥镜检查和PET。

📚 详细文档

模型生成详情

该模型使用 llama.cpp 在提交版本 238005c2 时生成。

超越IMatrix的量化

我一直在尝试一种新的量化方法，该方法有选择地提高关键层的精度，超越了默认IMatrix配置所提供的精度。

在我的测试中，标准IMatrix量化在较低比特深度下表现不佳，尤其是对于专家混合（MoE）模型。为了解决这个问题，我使用 llama.cpp 中的 --tensor-type 选项手动将重要层的精度提高。你可以在这里看到具体实现。

虽然这确实会增加模型文件的大小，但它显著提高了给定量化级别的精度。

反馈征集

我很希望得到你的反馈，你是否尝试过这种方法？它对你来说效果如何？

模型发布

• 技术报告：Arxiv: Lingshu: A Generalist Foundation Model for Unified Multimodal Medical Understanding and Reasoning
• 模型权重：
  • Lingshu-7B
  • Lingshu-32B

免责声明

我们必须指出，尽管模型权重、代码和演示以开放方式发布，但与其他预训练语言模型类似，尽管我们在红队测试、安全微调及执行方面已尽最大努力，但我们的模型仍存在潜在风险，包括但不限于不准确、误导性或潜在有害的生成内容。

开发者和利益相关者在部署前应进行自己的红队测试并提供相关安全措施，并且必须遵守当地的管理规定和法规。

在任何情况下，作者均不对因使用发布的权重、代码或演示而产生的任何索赔、损害或其他责任负责。

评估

医学多模态视觉问答（VQA）

医学文本问答

医学报告生成

📄 许可证

本项目采用MIT许可证。