🚀 DermaTech Qwen 2 VL LoRA模型
DermaTech Qwen 2 VL LoRA模型是基於Qwen/Qwen2-VL-2B-Instruct,使用低秩自適應(LoRA)技術針對皮膚病診斷進行微調的模型。它能夠分析皮膚狀況的圖像,並提供有洞察力的診斷描述,模擬皮膚科醫生的專業判斷。該模型是DermaTech項目(GitHub倉庫)的關鍵組成部分。
✨ 主要特性
- 基於強大的多模態預訓練模型Qwen 2 VL進行微調,在皮膚病診斷領域表現出色。
- 利用1500對圖像 - 文本對的定製數據集進行訓練,能夠提供更準確和相關的皮膚分析響應。
📦 安裝指南
你可以使用transformers
庫來使用此模型。詳細的使用說明和與完整應用程序的集成,請參考DermaTech的GitHub倉庫。
💻 使用示例
基礎用法
from transformers import Qwen2VLForConditionalGeneration, Qwen2VLProcessor, GenerationConfig
model = Qwen2VLForConditionalGeneration.from_pretrained("Rewatiramans/Dermatech-Qwen2-VL-2B")
processor = Qwen2VLProcessor.from_pretrained("Rewatiramans/Dermatech-Qwen2-VL-2B")
...
...
generation_config = GenerationConfig(do_sample=True, temperature=0.7)
outputs = model.generate(**inputs, generation_config=generation_config)
generated_text = processor.batch_decode(outputs, skip_special_tokens=True)[0]
print(generated_text)
📚 詳細文檔
模型描述
基礎模型Qwen 2 VL是一個強大的多模態模型,在大量的文本 - 圖像對數據集上進行了預訓練。此LoRA自適應版本通過在1500對與皮膚病相關的圖像 - 文本對的定製數據集(Dermatech_vlm.json)上進行訓練,將其能力聚焦於皮膚病領域。這種針對性的訓練使得模型在皮膚分析方面能夠提供更準確和相關的響應。
訓練過程
屬性 |
詳情 |
基礎模型 |
Qwen/Qwen2-VL-2B-Instruct |
訓練數據集 |
1500對與皮膚病相關的圖像 - 文本對(Dermatech_vlm.json) |
微調方法 |
LoRA(低秩自適應) |
優化器 |
LoRA+,學習率比率為16.00 |
學習率調度 |
餘弦衰減 |
批量大小 |
每個設備2,有效批量大小為8(梯度累積為4) |
訓練步數 |
618 |
訓練輪數 |
4(由於餘弦衰減調度,訓練提前完成) |
硬件 |
在單個GPU(cuda:0)上訓練 |
訓練損失 |
0.5477 |
訓練時間 |
約9分鐘 |
模型從checkpoint - 205恢復訓練,並在checkpoint - 618保存。
預期用途和限制
本模型用於DermaTech項目的研究和原型設計。它旨在輔助初步的皮膚狀況評估並提供信息,但不能替代專業的醫療建議。請始終諮詢合格的皮膚科醫生以獲得準確的診斷和治療方案。
模型的性能可能受到訓練數據規模和多樣性的限制。它可能無法準確診斷所有皮膚狀況,因此對其輸出應謹慎解釋。
評估結果
正式評估仍在進行中,但初步結果顯示該模型在訓練數據上表現出了良好的性能。後續將進行更多的測試和基準測試,以評估其在未見過的數據上的泛化能力和準確性。
引用說明
如果您在研究中使用了此模型,請引用DermaTech項目和原始的Qwen 2 VL模型。
聯繫信息
如果您對該模型或DermaTech項目有任何疑問,請聯繫[your_email_address]。
⚠️ 重要提示
此模型僅用於研究和原型設計,不能替代專業的醫療建議。請始終諮詢合格的皮膚科醫生以獲得準確的診斷和治療方案。
💡 使用建議
由於模型性能可能受訓練數據的限制,對其輸出結果應謹慎解釋。可參考正式評估結果和更多測試來綜合判斷其準確性。