Dpt Beit Base 384

🚀 DPT 3.1 (BEiT backbone)

DPT (Dense Prediction Transformer) モデルは、単眼深度推定のために140万枚の画像で学習されています。このモデルは、Ranftl ら (2021) による論文 Vision Transformers for Dense Prediction で紹介され、最初は このリポジトリ で公開されました。

免責事項: DPTを公開したチームはこのモデルについてモデルカードを作成していないため、このモデルカードはHugging Faceチームによって作成されています。

🚀 クイックスタート

このセクションでは、DPT 3.1 (BEiT backbone) モデルの概要と使用方法を説明します。

✨ 主な機能

• 単眼深度推定のために140万枚の画像で学習されたDPTモデルです。
• BEiT モデルをバックボーンとして使用し、単眼深度推定のためのネックとヘッドを追加しています。

📚 ドキュメント

モデルの説明

このDPTモデルは、BEiT モデルをバックボーンとして使用し、単眼深度推定のためにネックとヘッドを追加しています。

使い方

以下は、画像のゼロショット深度推定にこのモデルを使用する方法です。

基本的な使用法

from transformers import DPTImageProcessor, DPTForDepthEstimation
import torch
import numpy as np
from PIL import Image
import requests

url = "http://images.cocodataset.org/val2017/000000039769.jpg"
image = Image.open(requests.get(url, stream=True).raw)

processor = DPTImageProcessor.from_pretrained("Intel/dpt-beit-base-384")
model = DPTForDepthEstimation.from_pretrained("Intel/dpt-beit-base-384")

# prepare image for the model
inputs = processor(images=image, return_tensors="pt")

with torch.no_grad():
    outputs = model(**inputs)
    predicted_depth = outputs.predicted_depth

# interpolate to original size
prediction = torch.nn.functional.interpolate(
    predicted_depth.unsqueeze(1),
    size=image.size[::-1],
    mode="bicubic",
    align_corners=False,
)

# visualize the prediction
output = prediction.squeeze().cpu().numpy()
formatted = (output * 255 / np.max(output)).astype("uint8")
depth = Image.fromarray(formatted)

高度な使用法

from transformers import pipeline

pipe = pipeline(task="depth-estimation", model="Intel/dpt-beit-base-384")
result = pipe("http://images.cocodataset.org/val2017/000000039769.jpg")
result["depth"]

📄 ライセンス

このモデルはMITライセンスの下で提供されています。