Detr Resnet 101

🚀 DETR (エンドツーエンド物体検出) モデル（ResNet - 101バックボーン）

DETRは、COCO 2017物体検出データセット（118kの注釈付き画像）でエンドツーエンドで学習された物体検出モデルです。Transformerを用いた革新的なアプローチで、画像内の物体を精度よく検出します。

🚀 クイックスタート

このモデルは、物体検出タスクに使用できます。モデルハブ で利用可能なすべてのDETRモデルを探すことができます。

✨ 主な機能

• エンコーダ - デコーダ型のTransformerアーキテクチャを採用し、畳み込みバックボーンを使用しています。
• 物体検出のために、デコーダ出力の上にクラスラベル用の線形層とバウンディングボックス用のMLPを追加しています。
• "二部マッチング損失"を使用して学習され、ハンガリアンマッチングアルゴリズムで最適なマッピングを作成します。

📦 インストール

このモデルを使用するには、transformersライブラリが必要です。以下のコマンドでインストールできます。

pip install transformers torch pillow requests

💻 使用例

基本的な使用法

from transformers import DetrImageProcessor, DetrForObjectDetection
import torch
from PIL import Image
import requests

url = "http://images.cocodataset.org/val2017/000000039769.jpg"
image = Image.open(requests.get(url, stream=True).raw)

# you can specify the revision tag if you don't want the timm dependency
processor = DetrImageProcessor.from_pretrained("facebook/detr-resnet-101", revision="no_timm")
model = DetrForObjectDetection.from_pretrained("facebook/detr-resnet-101", revision="no_timm")

inputs = processor(images=image, return_tensors="pt")
outputs = model(**inputs)

# convert outputs (bounding boxes and class logits) to COCO API
# let's only keep detections with score > 0.9
target_sizes = torch.tensor([image.size[::-1]])
results = processor.post_process_object_detection(outputs, target_sizes=target_sizes, threshold=0.9)[0]

for score, label, box in zip(results["scores"], results["labels"], results["boxes"]):
    box = [round(i, 2) for i in box.tolist()]
    print(
            f"Detected {model.config.id2label[label.item()]} with confidence "
            f"{round(score.item(), 3)} at location {box}"
    )

このコードは以下のような出力を生成します。

Detected cat with confidence 0.998 at location [344.06, 24.85, 640.34, 373.74]
Detected remote with confidence 0.997 at location [328.13, 75.93, 372.81, 187.66]
Detected remote with confidence 0.997 at location [39.34, 70.13, 175.56, 118.78]
Detected cat with confidence 0.998 at location [15.36, 51.75, 316.89, 471.16]
Detected couch with confidence 0.995 at location [-0.19, 0.71, 639.73, 474.17]

現在、特徴抽出器とモデルはどちらもPyTorchをサポートしています。

📚 ドキュメント

モデルの詳細

DETRモデルは、畳み込みバックボーンを持つエンコーダ - デコーダ型のTransformerです。物体検出を行うために、デコーダ出力の上に2つのヘッドが追加されています。クラスラベル用の線形層とバウンディングボックス用のMLP（多層パーセプトロン）です。モデルは、画像内の物体を検出するためにいわゆる物体クエリを使用します。各物体クエリは、画像内の特定の物体を探します。COCOの場合、物体クエリの数は100に設定されています。

モデルは "二部マッチング損失"を使用して学習されます。N = 100の各物体クエリの予測クラスとバウンディングボックスを、同じ長さNにパディングされた正解注釈と比較します（画像に4つの物体しか含まれていない場合、96の注釈はクラスとして "no object"、バウンディングボックスとして "no bounding box"になります）。ハンガリアンマッチングアルゴリズムを使用して、N個のクエリとN個の注釈の間に最適な1対1のマッピングを作成します。次に、標準的な交差エントロピー（クラス用）とL1損失と一般化IoU損失の線形結合（バウンディングボックス用）を使用して、モデルのパラメータを最適化します。

意図された用途と制限

このモデルは物体検出に使用できます。利用可能なすべてのDETRモデルを探すには、モデルハブ を参照してください。

学習データ

DETRモデルは、COCO 2017物体検出 データセットで学習されました。このデータセットは、それぞれ学習用と検証用に118k/5kの注釈付き画像で構成されています。

学習手順

前処理

学習/検証中の画像の前処理の正確な詳細は、こちら で確認できます。

画像は、最短辺が少なくとも800ピクセル、最長辺が最大1333ピクセルになるようにリサイズ/リスケールされ、RGBチャネル全体でImageNetの平均（0.485, 0.456, 0.406）と標準偏差（0.229, 0.224, 0.225）で正規化されます。

学習

モデルは、16台のV100 GPUで300エポック学習されました。これには3日かかり、GPUごとに4枚の画像（したがって総バッチサイズは64）が使用されました。

評価結果

このモデルは、COCO 2017検証データセットで43.5のAP（平均精度）を達成しています。評価結果の詳細については、元の論文の表1を参照してください。

BibTeXエントリと引用情報

@article{DBLP:journals/corr/abs-2005-12872,
  author    = {Nicolas Carion and
               Francisco Massa and
               Gabriel Synnaeve and
               Nicolas Usunier and
               Alexander Kirillov and
               Sergey Zagoruyko},
  title     = {End-to-End Object Detection with Transformers},
  journal   = {CoRR},
  volume    = {abs/2005.12872},
  year      = {2020},
  url       = {https://arxiv.org/abs/2005.12872},
  archivePrefix = {arXiv},
  eprint    = {2005.12872},
  timestamp = {Thu, 28 May 2020 17:38:09 +0200},
  biburl    = {https://dblp.org/rec/journals/corr/abs-2005-12872.bib},
  bibsource = {dblp computer science bibliography, https://dblp.org}
}

📄 ライセンス

このモデルは、Apache-2.0ライセンスの下で提供されています。