🚀 DermaTech Qwen 2 VL LoRA模型
DermaTech Qwen 2 VL LoRA模型是基于Qwen/Qwen2-VL-2B-Instruct,使用低秩自适应(LoRA)技术针对皮肤病诊断进行微调的模型。它能够分析皮肤状况的图像,并提供有洞察力的诊断描述,模拟皮肤科医生的专业判断。该模型是DermaTech项目(GitHub仓库)的关键组成部分。
✨ 主要特性
- 基于强大的多模态预训练模型Qwen 2 VL进行微调,在皮肤病诊断领域表现出色。
- 利用1500对图像 - 文本对的定制数据集进行训练,能够提供更准确和相关的皮肤分析响应。
📦 安装指南
你可以使用transformers
库来使用此模型。详细的使用说明和与完整应用程序的集成,请参考DermaTech的GitHub仓库。
💻 使用示例
基础用法
from transformers import Qwen2VLForConditionalGeneration, Qwen2VLProcessor, GenerationConfig
model = Qwen2VLForConditionalGeneration.from_pretrained("Rewatiramans/Dermatech-Qwen2-VL-2B")
processor = Qwen2VLProcessor.from_pretrained("Rewatiramans/Dermatech-Qwen2-VL-2B")
...
...
generation_config = GenerationConfig(do_sample=True, temperature=0.7)
outputs = model.generate(**inputs, generation_config=generation_config)
generated_text = processor.batch_decode(outputs, skip_special_tokens=True)[0]
print(generated_text)
📚 详细文档
模型描述
基础模型Qwen 2 VL是一个强大的多模态模型,在大量的文本 - 图像对数据集上进行了预训练。此LoRA自适应版本通过在1500对与皮肤病相关的图像 - 文本对的定制数据集(Dermatech_vlm.json)上进行训练,将其能力聚焦于皮肤病领域。这种针对性的训练使得模型在皮肤分析方面能够提供更准确和相关的响应。
训练过程
属性 |
详情 |
基础模型 |
Qwen/Qwen2-VL-2B-Instruct |
训练数据集 |
1500对与皮肤病相关的图像 - 文本对(Dermatech_vlm.json) |
微调方法 |
LoRA(低秩自适应) |
优化器 |
LoRA+,学习率比率为16.00 |
学习率调度 |
余弦衰减 |
批量大小 |
每个设备2,有效批量大小为8(梯度累积为4) |
训练步数 |
618 |
训练轮数 |
4(由于余弦衰减调度,训练提前完成) |
硬件 |
在单个GPU(cuda:0)上训练 |
训练损失 |
0.5477 |
训练时间 |
约9分钟 |
模型从checkpoint - 205恢复训练,并在checkpoint - 618保存。
预期用途和限制
本模型用于DermaTech项目的研究和原型设计。它旨在辅助初步的皮肤状况评估并提供信息,但不能替代专业的医疗建议。请始终咨询合格的皮肤科医生以获得准确的诊断和治疗方案。
模型的性能可能受到训练数据规模和多样性的限制。它可能无法准确诊断所有皮肤状况,因此对其输出应谨慎解释。
评估结果
正式评估仍在进行中,但初步结果显示该模型在训练数据上表现出了良好的性能。后续将进行更多的测试和基准测试,以评估其在未见过的数据上的泛化能力和准确性。
引用说明
如果您在研究中使用了此模型,请引用DermaTech项目和原始的Qwen 2 VL模型。
联系信息
如果您对该模型或DermaTech项目有任何疑问,请联系[your_email_address]。
⚠️ 重要提示
此模型仅用于研究和原型设计,不能替代专业的医疗建议。请始终咨询合格的皮肤科医生以获得准确的诊断和治疗方案。
💡 使用建议
由于模型性能可能受训练数据的限制,对其输出结果应谨慎解释。可参考正式评估结果和更多测试来综合判断其准确性。