🚀 DETR(端到端目标检测)模型,采用ResNet - 101骨干网络(膨胀C5阶段)
DETR(Detection Transformer)是一个在COCO 2017目标检测数据集(11.8万张标注图像)上进行端到端训练的模型。它由Carion等人在论文 End-to-End Object Detection with Transformers 中提出,并首次在 此仓库 发布。
免责声明:发布DETR的团队并未为此模型撰写模型卡片,此模型卡片由Hugging Face团队编写。
🚀 快速开始
你可以使用这个原始模型进行目标检测。查看 模型中心 以查找所有可用的DETR模型。
✨ 主要特性
- 端到端训练:在COCO 2017目标检测数据集上进行端到端训练。
- Transformer架构:采用编码器 - 解码器Transformer架构,并结合卷积骨干网络。
- 目标查询机制:使用目标查询来检测图像中的对象。
💻 使用示例
基础用法
from transformers import DetrFeatureExtractor, DetrForObjectDetection
from PIL import Image
import requests
url = 'http://images.cocodataset.org/val2017/000000039769.jpg'
image = Image.open(requests.get(url, stream=True).raw)
feature_extractor = DetrFeatureExtractor.from_pretrained('facebook/detr-resnet-101-dc5')
model = DetrForObjectDetection.from_pretrained('facebook/detr-resnet-101-dc5')
inputs = feature_extractor(images=image, return_tensors="pt")
outputs = model(**inputs)
logits = outputs.logits
bboxes = outputs.pred_boxes
目前,特征提取器和模型都支持PyTorch。
📚 详细文档
模型描述
DETR模型是一个带有卷积骨干网络的编码器 - 解码器Transformer。在解码器输出之上添加了两个头部以进行目标检测:一个用于类别标签的线性层和一个用于边界框的MLP(多层感知器)。该模型使用所谓的目标查询来检测图像中的对象。每个目标查询在图像中寻找特定的对象。对于COCO数据集,目标查询的数量设置为100。
该模型使用“二分匹配损失”进行训练:将N = 100个目标查询的预测类别和边界框与真实标注进行比较,真实标注会填充到相同的长度N(因此,如果一幅图像仅包含4个对象,96个标注的类别将为“无对象”,边界框为“无边界框”)。使用匈牙利匹配算法在N个查询和N个标注之间创建最优的一对一映射。接下来,使用标准的交叉熵(用于类别)和L1与广义IoU损失的线性组合(用于边界框)来优化模型的参数。
预期用途和限制
你可以使用该原始模型进行目标检测。查看 模型中心 以查找所有可用的DETR模型。
训练数据
DETR模型在 COCO 2017目标检测 数据集上进行训练,该数据集分别包含11.8万张和5000张用于训练和验证的标注图像。
训练过程
预处理
训练/验证期间图像预处理的确切细节可在 此处 找到。
图像会进行调整大小/缩放,使得最短边至少为800像素,最长边最多为1333像素,并使用ImageNet均值(0.485, 0.456, 0.406)和标准差(0.229, 0.224, 0.225)在RGB通道上进行归一化。
训练
该模型在16个V100 GPU上训练了300个epoch,耗时3天,每个GPU处理4张图像(因此总批量大小为64)。
评估结果
该模型在COCO 2017验证集上的AP(平均精度)达到了 44.9。有关评估结果的更多详细信息,请参考原论文的表1。
BibTeX引用和引用信息
@article{DBLP:journals/corr/abs-2005-12872,
author = {Nicolas Carion and
Francisco Massa and
Gabriel Synnaeve and
Nicolas Usunier and
Alexander Kirillov and
Sergey Zagoruyko},
title = {End-to-End Object Detection with Transformers},
journal = {CoRR},
volume = {abs/2005.12872},
year = {2020},
url = {https://arxiv.org/abs/2005.12872},
archivePrefix = {arXiv},
eprint = {2005.12872},
timestamp = {Thu, 28 May 2020 17:38:09 +0200},
biburl = {https://dblp.org/rec/journals/corr/abs-2005-12872.bib},
bibsource = {dblp computer science bibliography, https://dblp.org}
}
📄 许可证
本项目采用Apache - 2.0许可证。
属性 |
详情 |
模型类型 |
端到端目标检测模型 |
训练数据 |
COCO 2017目标检测数据集 |