Finetuned ViT Model

🚀 微調後的ViT模型

本模型是基於 facebook/detr-resnet-50-dc5 在 安全帽數據集 上進行微調的版本。它在評估集上取得了以下結果：

• 損失值：0.9937

✨ 主要特性

模型描述

本模型是Hugging Face認證作業的演示項目，專為教育目的而創建。它是一個經過微調的視覺變換器（ViT），用於目標檢測，專門訓練用於檢測圖像中的安全帽、頭部和人員。該模型以 facebook/detr-resnet-50-dc5 檢查點為基礎，並在 hf-vision/hardhat 數據集上進一步訓練。

該模型利用變換器架構處理圖像塊，並預測感興趣對象的邊界框和標籤。

預期用途與侷限性

• 預期用途：本模型可用於演示ViT的目標檢測功能。它有可能用於安全應用，以識別建築工地或工業環境中佩戴或未佩戴安全帽的人員。
• 侷限性：本模型的訓練有限，對於具有顯著不同特徵、視角或光照條件的圖像，可能無法很好地泛化。在沒有進一步評估和驗證的情況下，不建議用於生產環境。

訓練和評估數據

• 數據集：該模型在Hugging Face Datasets的 hf-vision/hardhat 數據集上進行訓練。該數據集包含建築工地和工業環境的圖像，並標註了安全帽、頭部和人員。
• 數據劃分：數據集分為“訓練集”和“測試集”。
• 數據增強：在訓練過程中使用 albumentations 進行數據增強，以提高模型的泛化能力。這些增強包括隨機水平翻轉和隨機亮度/對比度調整。

訓練過程

• 基礎模型：模型從 facebook/detr-resnet-50-dc5 檢查點初始化，這是一個帶有ResNet - 50骨幹網絡的預訓練DETR模型。
• 微調：使用Hugging Face的 Trainer 對模型進行微調，使用以下超參數：
  • 學習率：1e - 6
  • 權重衰減：1e - 4
  • 批量大小：1
  • 訓練輪數：3
  • 最大步數：2500
  • 優化器：AdamW
• 評估：在測試集上使用標準的目標檢測指標對模型進行評估，包括COCO指標（平均精度、平均召回率）。
• 硬件：訓練在Google Colab上使用GPU加速進行。

訓練超參數

訓練過程中使用了以下超參數：

• 學習率：1e - 06
• 訓練批量大小：1
• 評估批量大小：8
• 隨機種子：42
• 優化器：使用adamw_torch，β值為(0.9, 0.999)，ε值為1e - 08，無額外優化器參數
• 學習率調度器類型：線性
• 訓練步數：500
• 混合精度訓練：原生自動混合精度（Native AMP）

框架版本

• Transformers 4.50.1
• Pytorch 2.5.1+cu121
• Datasets 3.4.1
• Tokenizers 0.21.0

📄 許可證

本模型採用MIT許可證。