Segformer B3 1024x1024 City 160k

🚀 Segformer Model Card

このモデルは画像セグメンテーションのタスクに特化したSegformerを提供します。Pytorchをベースに構築されており、簡単に学習済みモデルをロードして使用することができます。

🚀 クイックスタート

目次:

• 学習済みモデルのロード
• モデルの初期化パラメータ
• モデルの評価指標
• データセット

学習済みモデルのロード

1. 必要なライブラリをインストールします。

pip install -U segmentation_models_pytorch albumentations

2. 推論を実行します。

import torch
import requests
import numpy as np
import albumentations as A
import segmentation_models_pytorch as smp

from PIL import Image

device = "cuda" if torch.cuda.is_available() else "cpu"

# Load pretrained model and preprocessing function
checkpoint = "smp-hub/segformer-b3-1024x1024-city-160k"
model = smp.from_pretrained(checkpoint).eval().to(device)
preprocessing = A.Compose.from_pretrained(checkpoint)

# Load image
url = "https://huggingface.co/datasets/hf-internal-testing/fixtures_ade20k/resolve/main/ADE_val_00000001.jpg"
image = Image.open(requests.get(url, stream=True).raw)

# Preprocess image
np_image = np.array(image)
normalized_image = preprocessing(image=np_image)["image"]
input_tensor = torch.as_tensor(normalized_image)
input_tensor = input_tensor.permute(2, 0, 1).unsqueeze(0)  # HWC -> BCHW
input_tensor = input_tensor.to(device)

# Perform inference
with torch.no_grad():
    output_mask = model(input_tensor)

# Postprocess mask
mask = torch.nn.functional.interpolate(
    output_mask, size=(image.height, image.width), mode="bilinear", align_corners=False
)
mask = mask.argmax(1).cpu().numpy()  # argmax over predicted classes (channels dim)

✨ 主な機能

このモデルは、画像セグメンテーションのタスクに特化したSegformerを提供します。以下のような機能があります。

• 学習済みモデルを簡単にロードして使用できます。
• モデルの初期化パラメータを自由に設定できます。

📦 インストール

必要なライブラリをインストールします。

pip install -U segmentation_models_pytorch albumentations

💻 使用例

基本的な使用法

import torch
import requests
import numpy as np
import albumentations as A
import segmentation_models_pytorch as smp

from PIL import Image

device = "cuda" if torch.cuda.is_available() else "cpu"

# Load pretrained model and preprocessing function
checkpoint = "smp-hub/segformer-b3-1024x1024-city-160k"
model = smp.from_pretrained(checkpoint).eval().to(device)
preprocessing = A.Compose.from_pretrained(checkpoint)

# Load image
url = "https://huggingface.co/datasets/hf-internal-testing/fixtures_ade20k/resolve/main/ADE_val_00000001.jpg"
image = Image.open(requests.get(url, stream=True).raw)

# Preprocess image
np_image = np.array(image)
normalized_image = preprocessing(image=np_image)["image"]
input_tensor = torch.as_tensor(normalized_image)
input_tensor = input_tensor.permute(2, 0, 1).unsqueeze(0)  # HWC -> BCHW
input_tensor = input_tensor.to(device)

# Perform inference
with torch.no_grad():
    output_mask = model(input_tensor)

# Postprocess mask
mask = torch.nn.functional.interpolate(
    output_mask, size=(image.height, image.width), mode="bilinear", align_corners=False
)
mask = mask.argmax(1).cpu().numpy()  # argmax over predicted classes (channels dim)

📚 ドキュメント

モデルの初期化パラメータ

model_init_params = {
    "encoder_name": "mit_b3",
    "encoder_depth": 5,
    "encoder_weights": None,
    "decoder_segmentation_channels": 768,
    "in_channels": 3,
    "classes": 19,
    "activation": None,
    "aux_params": None
}

データセット

データセット名: Cityscapes

詳細情報

• ライブラリ: https://github.com/qubvel/segmentation_models.pytorch
• ドキュメント: https://smp.readthedocs.io/en/latest/
• ライセンス: https://github.com/NVlabs/SegFormer/blob/master/LICENSE

このモデルは、PytorchModelHubMixin を使用してHubに公開されています。

📄 ライセンス

ライセンス情報: https://github.com/NVlabs/SegFormer/blob/master/LICENSE