Finetuned ViT Model

🚀 微调后的ViT模型

本模型是基于 facebook/detr-resnet-50-dc5 在 安全帽数据集 上进行微调的版本。它在评估集上取得了以下结果：

• 损失值：0.9937

✨ 主要特性

模型描述

本模型是Hugging Face认证作业的演示项目，专为教育目的而创建。它是一个经过微调的视觉变换器（ViT），用于目标检测，专门训练用于检测图像中的安全帽、头部和人员。该模型以 facebook/detr-resnet-50-dc5 检查点为基础，并在 hf-vision/hardhat 数据集上进一步训练。

该模型利用变换器架构处理图像块，并预测感兴趣对象的边界框和标签。

预期用途与局限性

• 预期用途：本模型可用于演示ViT的目标检测功能。它有可能用于安全应用，以识别建筑工地或工业环境中佩戴或未佩戴安全帽的人员。
• 局限性：本模型的训练有限，对于具有显著不同特征、视角或光照条件的图像，可能无法很好地泛化。在没有进一步评估和验证的情况下，不建议用于生产环境。

训练和评估数据

• 数据集：该模型在Hugging Face Datasets的 hf-vision/hardhat 数据集上进行训练。该数据集包含建筑工地和工业环境的图像，并标注了安全帽、头部和人员。
• 数据划分：数据集分为“训练集”和“测试集”。
• 数据增强：在训练过程中使用 albumentations 进行数据增强，以提高模型的泛化能力。这些增强包括随机水平翻转和随机亮度/对比度调整。

训练过程

• 基础模型：模型从 facebook/detr-resnet-50-dc5 检查点初始化，这是一个带有ResNet - 50骨干网络的预训练DETR模型。
• 微调：使用Hugging Face的 Trainer 对模型进行微调，使用以下超参数：
  • 学习率：1e - 6
  • 权重衰减：1e - 4
  • 批量大小：1
  • 训练轮数：3
  • 最大步数：2500
  • 优化器：AdamW
• 评估：在测试集上使用标准的目标检测指标对模型进行评估，包括COCO指标（平均精度、平均召回率）。
• 硬件：训练在Google Colab上使用GPU加速进行。

训练超参数

训练过程中使用了以下超参数：

• 学习率：1e - 06
• 训练批量大小：1
• 评估批量大小：8
• 随机种子：42
• 优化器：使用adamw_torch，β值为(0.9, 0.999)，ε值为1e - 08，无额外优化器参数
• 学习率调度器类型：线性
• 训练步数：500
• 混合精度训练：原生自动混合精度（Native AMP）

框架版本

• Transformers 4.50.1
• Pytorch 2.5.1+cu121
• Datasets 3.4.1
• Tokenizers 0.21.0

📄 许可证

本模型采用MIT许可证。