Detr Resnet 50 Sku110k

🚀 DETR (エンドツーエンド物体検出) モデル（ResNet-50バックボーン、SKU110Kデータセットで訓練、num_queries=400）

DETR（Detection Transformer）は、SKU110K物体検出データセット（8,000枚以上の注釈付き画像）でエンドツーエンドに訓練されたモデルです。元のモデルとの主な違いは、num_queriesが400であり、SKU110Kデータセットで事前学習されている点です。

🚀 クイックスタート

このモデルの使い方は以下の通りです。

基本的な使用法

from transformers import DetrImageProcessor, DetrForObjectDetection
import torch
from PIL import Image, ImageOps
import requests

url = "https://github.com/Isalia20/DETR-finetune/blob/main/IMG_3507.jpg?raw=true"
image = Image.open(requests.get(url, stream=True).raw)
image = ImageOps.exif_transpose(image)

# you can specify the revision tag if you don't want the timm dependency
processor = DetrImageProcessor.from_pretrained("facebook/detr-resnet-50", revision="no_timm")
model = DetrForObjectDetection.from_pretrained("isalia99/detr-resnet-50-sku110k")
model = model.eval()
inputs = processor(images=image, return_tensors="pt")
outputs = model(**inputs)

# convert outputs (bounding boxes and class logits) to COCO API
# let's only keep detections with score > 0.8
target_sizes = torch.tensor([image.size[::-1]])
results = processor.post_process_object_detection(outputs, target_sizes=target_sizes, threshold=0.8)[0]

for score, label, box in zip(results["scores"], results["labels"], results["boxes"]):
        box = [round(i, 2) for i in box.tolist()]
        print(
                f"Detected {model.config.id2label[label.item()]} with confidence "
                f"{round(score.item(), 3)} at location {box}"
        )

このコードの出力は以下のようになります。

Detected LABEL_1 with confidence 0.983 at location [665.49, 480.05, 708.15, 650.11]
Detected LABEL_1 with confidence 0.938 at location [204.99, 1405.9, 239.9, 1546.5]
...
Detected LABEL_1 with confidence 0.998 at location [772.85, 169.49, 829.67, 372.18]
Detected LABEL_1 with confidence 0.999 at location [828.28, 1475.16, 874.37, 1593.43]

現在、特徴抽出器とモデルの両方がPyTorchをサポートしています。

📦 インストール

このセクションではインストール手順に関する具体的なコマンドが提供されていないため、スキップします。

📚 ドキュメント

訓練データ

DETRモデルはSKU110Kデータセットで訓練されました。このデータセットは、訓練/検証/テスト用にそれぞれ8,219/588/2,936枚の注釈付き画像で構成されています。

訓練手順

訓練

このモデルは、1台のRTX 4060 Ti GPUで訓練されました。最初にデコーダのみをファインチューニングして140エポック、バッチサイズ8で訓練し、その後、ネットワーク全体をファインチューニングして70エポック、バッチサイズ3で訓練し、3ステップで勾配を累積しました。

評価結果

このモデルは、SKU110k検証セットで58.9のmAPを達成しています。結果はtorchmetricsのMeanAveragePrecisionクラスを使用して計算されました。

訓練コード

コードはこのリポジトリ Repo Link で公開されています。ただし、まだ完成しておらず、十分にテストされていない部分もありますが、主な内容はコードに含まれています。

📄 ライセンス

このプロジェクトはApache-2.0ライセンスの下で公開されています。