Dpt Hybrid Midas

🚀 DPT-Hybrid（也称为MiDaS 3.0）

DPT-Hybrid是一个用于单目深度估计的模型，它在140万张图像上进行训练。该模型使用视觉变换器（ViT）作为骨干网络，并添加了颈部和头部结构，以实现单目深度估计的功能。

🚀 快速开始

零样本深度估计示例

以下是如何使用此模型对图像进行零样本深度估计的示例代码：

from PIL import Image
import numpy as np
import requests
import torch

from transformers import DPTImageProcessor, DPTForDepthEstimation

image_processor = DPTImageProcessor.from_pretrained("Intel/dpt-hybrid-midas")
model = DPTForDepthEstimation.from_pretrained("Intel/dpt-hybrid-midas", low_cpu_mem_usage=True)

url = "http://images.cocodataset.org/val2017/000000039769.jpg"
image = Image.open(requests.get(url, stream=True).raw)

# prepare image for the model
inputs = image_processor(images=image, return_tensors="pt")

with torch.no_grad():
    outputs = model(**inputs)
    predicted_depth = outputs.predicted_depth

# interpolate to original size
prediction = torch.nn.functional.interpolate(
    predicted_depth.unsqueeze(1),
    size=image.size[::-1],
    mode="bicubic",
    align_corners=False,
)

# visualize the prediction
output = prediction.squeeze().cpu().numpy()
formatted = (output * 255 / np.max(output)).astype("uint8")
depth = Image.fromarray(formatted)
depth.show()

更多代码示例，请参考 文档。

✨ 主要特性

• 强大的训练基础：在140万张图像上进行训练，为单目深度估计提供了坚实的数据支持。
• 先进的架构：采用视觉变换器（ViT）作为骨干网络，并添加了颈部和头部结构，以实现高效的单目深度估计。
• 零样本迁移能力：能够在不同数据集上进行零样本迁移，展现出良好的泛化能力。

📚 详细文档

模型详情

预期用途

影响因素

评估指标

训练和评估数据

定量分析

表1. 单目深度估计的最新技术比较。我们根据 [30] 中定义的协议评估零样本跨数据集迁移。相对性能是相对于原始MiDaS模型 [30] 计算的。所有指标的值越低越好。(Ranftl等人, 2021)

伦理考虑

注意事项和建议

🔧 技术细节

Dense Prediction Transformer (DPT) 模型在140万张图像上进行训练，用于单目深度估计。它在论文 Vision Transformers for Dense Prediction 中由Ranftl等人 (2021) 提出，并首次在 此仓库 中发布。DPT使用视觉变换器（ViT）作为骨干网络，并在顶部添加了颈部和头部结构，用于单目深度估计。

本仓库托管的是论文中所述的模型 “混合” 版本。DPT-Hybrid与DPT的不同之处在于，它使用 ViT-hybrid 作为骨干网络，并从骨干网络中获取一些激活值。

📄 许可证

本模型采用Apache 2.0许可证。

BibTeX引用

@article{DBLP:journals/corr/abs-2103-13413,
  author    = {Ren{\'{e}} Ranftl and
               Alexey Bochkovskiy and
               Vladlen Koltun},
  title     = {Vision Transformers for Dense Prediction},
  journal   = {CoRR},
  volume    = {abs/2103.13413},
  year      = {2021},
  url       = {https://arxiv.org/abs/2103.13413},
  eprinttype = {arXiv},
  eprint    = {2103.13413},
  timestamp = {Wed, 07 Apr 2021 15:31:46 +0200},
  biburl    = {https://dblp.org/rec/journals/corr/abs-2103-13413.bib},
  bibsource = {dblp computer science bibliography, https://dblp.org}
}