🚀 YOLOS(小尺寸)模型在Matterport气球数据集上的微调版本
YOLOS是一个使用DETR损失函数训练的视觉Transformer(ViT)模型。尽管其结构简单,但基础尺寸的YOLOS模型在COCO 2017验证集上能够达到42的平均精度均值(AP),与DETR以及诸如Faster R - CNN等更复杂的框架表现相当。该YOLOS模型在COCO 2017目标检测数据集(11.8万张带注释的图像)上进行了微调。它由Fang等人在论文You Only Look at One Sequence: Rethinking Transformer in Vision through Object Detection中提出,并首次在此仓库中发布。
✨ 主要特性
- YOLOS基于视觉Transformer架构,使用DETR损失进行训练。
- 基础尺寸模型在COCO 2017验证集上有良好的AP表现。
- 模型经过多阶段训练和微调,包括在ImageNet - 1k、COCO 2017目标检测数据集和Matterport气球检测数据集上。
📚 详细文档
模型描述
该模型使用“二分匹配损失”进行训练:将N = 100个目标查询中的每个查询预测的类别和边界框与真实标注进行比较,真实标注会填充到相同的长度N(因此,如果一张图像仅包含4个目标,那么96个标注的类别将为“无目标”,边界框为“无边界框”)。使用匈牙利匹配算法在N个查询和N个标注之间创建最优的一对一映射。接下来,使用标准的交叉熵(用于类别)和L1损失与广义交并比损失的线性组合(用于边界框)来优化模型的参数。
目前,特征提取器和模型均支持PyTorch。
训练数据
此模型在ImageNet - 1k上进行了预训练,并在COCO 2017目标检测数据集上进行了微调,该数据集分别包含11.8万张和5000张用于训练和验证的带注释图像。它还在Matterport气球检测数据集上进一步微调,该数据集包含74张带注释的图像。
训练过程
该模型在ImageNet - 1k上预训练了200个epoch,在COCO上微调了150个epoch,并在Matterport气球数据集上进一步微调了96个epoch。
你可以在[这里](https://github.com/ZohebAbai/Deep - Learning - Projects/blob/master/10_PT_Object_Detection_using_Transformers.ipynb)查看其详细的笔记本。
评估结果
该模型在Matterport气球验证集上的平均精度均值(AP)达到了26.9。
BibTeX引用和引用信息
@article{DBLP:journals/corr/abs-2106-00666,
author = {Yuxin Fang and
Bencheng Liao and
Xinggang Wang and
Jiemin Fang and
Jiyang Qi and
Rui Wu and
Jianwei Niu and
Wenyu Liu},
title = {You Only Look at One Sequence: Rethinking Transformer in Vision through
Object Detection},
journal = {CoRR},
volume = {abs/2106.00666},
year = {2021},
url = {https://arxiv.org/abs/2106.00666},
eprinttype = {arXiv},
eprint = {2106.00666},
timestamp = {Fri, 29 Apr 2022 19:49:16 +0200},
biburl = {https://dblp.org/rec/journals/corr/abs-2106-00666.bib},
bibsource = {dblp computer science bibliography, https://dblp.org}
}
📄 信息表格
属性 |
详情 |
模型类型 |
基于视觉Transformer架构,使用DETR损失训练的目标检测模型 |
训练数据 |
预训练:ImageNet - 1k;微调:COCO 2017目标检测数据集、Matterport气球检测数据集 |