M

Meditron 7B AWQ

由TheBloke開發
Meditron 7B是EPFL LLM Team開發的醫療領域大語言模型,基於Llama-2-7B繼續預訓練,專注於醫療知識編碼和臨床決策支持。
下載量 38.22k
發布時間 : 11/30/2023

模型概述

這是一個針對醫療領域優化的7B參數大語言模型,經過AWQ量化後可用於高效推理。模型在醫學考試問答、診斷支持等方面有潛在應用價值。

模型特點

高效量化
採用AWQ 4位量化技術,在保持模型質量的同時顯著提升推理速度
醫療領域優化
在醫學數據上繼續預訓練,增強了醫療知識編碼能力
廣泛兼容性
支持多種推理框架包括vLLM、Hugging Face TGI、Transformers等

模型能力

醫學問答生成
醫療信息查詢
診斷支持
健康諮詢
醫學考試問題回答

使用案例

醫療健康
醫學考試問答
回答醫學考試相關問題
在健康類別TruthfulQA評估中達到27.3%準確率
診斷支持
提供鑑別診斷建議
健康信息查詢
查詢疾病症狀、原因和治療信息
AIbase
智啟未來,您的人工智能解決方案智庫
© 2025AIbase