Vit Xray Pneumonia Classification

🚀 胸部X光肺炎分類視覺變換器模型

本模型用於胸部X光圖像的肺炎分類，基於預訓練模型微調而來，在評估集上表現出色，能高效準確地識別肺炎與正常的胸部X光影像，為醫療診斷提供有力支持。

🚀 快速開始

本模型是 google/vit-base-patch16-224-in21k 在胸部X光分類數據集上的微調版本。 它在評估集上取得了以下結果：

• 損失值：0.0868
• 準確率：0.9742

💻 使用示例

基礎用法

from transformers import pipeline

classifier = pipeline(model="lxyuan/vit-xray-pneumonia-classification")

# 圖像取自 https://www.news-medical.net/health/What-is-Viral-Pneumonia.aspx
classifier("https://d2jx2rerrg6sh3.cloudfront.net/image-handler/ts/20200618040600/ri/650/picture/2020/6/shutterstock_786937069.jpg")

>>>
[{'score': 0.990334689617157, 'label': 'PNEUMONIA'},
 {'score': 0.009665317833423615, 'label': 'NORMAL'}]

📚 詳細文檔

訓練過程

筆記本鏈接：點擊查看

訓練超參數

訓練過程中使用了以下超參數：

• 學習率：5e-05
• 訓練批次大小：16
• 評估批次大小：16
• 隨機種子：42
• 梯度累積步數：4
• 總訓練批次大小：64
• 優化器：Adam（β1 = 0.9，β2 = 0.999，ε = 1e-08）
• 學習率調度器類型：線性
• 學習率調度器預熱比例：0.1
• 訓練輪數：15

from transformers import EarlyStoppingCallback

training_args = TrainingArguments(
    output_dir="vit-xray-pneumonia-classification",
    remove_unused_columns=False,
    evaluation_strategy="epoch",
    save_strategy="epoch",
    logging_strategy="epoch",
    learning_rate=5e-5,
    per_device_train_batch_size=16,
    gradient_accumulation_steps=4,
    per_device_eval_batch_size=16,
    num_train_epochs=15,
    save_total_limit=2,
    warmup_ratio=0.1,
    load_best_model_at_end=True,
    metric_for_best_model="eval_loss",
    greater_is_better=False,
    fp16=True,
    push_to_hub=True,
    report_to="tensorboard"
)

early_stopping = EarlyStoppingCallback(early_stopping_patience=3)

trainer = Trainer(
    model=model,
    args=training_args,
    data_collator=data_collator,
    train_dataset=train_ds,
    eval_dataset=val_ds,
    tokenizer=processor,
    compute_metrics=compute_metrics,
    callbacks=[early_stopping],
)

訓練結果

框架版本

• Transformers 4.30.2
• Pytorch 1.9.0+cu102
• Datasets 2.12.0
• Tokenizers 0.13.3

📄 許可證

本模型採用 Apache-2.0 許可證。