Deeplabv3 Mobilevit Xx Small

🚀 MobileViT + DeepLabV3（超超小型模型）

這是一個在PASCAL VOC數據集上以512x512分辨率預訓練的模型，可用於圖像語義分割任務，具有輕量級、低延遲的特點。

🚀 快速開始

你可以使用這個原始模型進行語義分割。你可以在模型中心查找針對你感興趣任務的微調版本。

from transformers import MobileViTFeatureExtractor, MobileViTForSemanticSegmentation
from PIL import Image
import requests

url = "http://images.cocodataset.org/val2017/000000039769.jpg"
image = Image.open(requests.get(url, stream=True).raw)

feature_extractor = MobileViTFeatureExtractor.from_pretrained("apple/deeplabv3-mobilevit-xx-small")
model = MobileViTForSemanticSegmentation.from_pretrained("apple/deeplabv3-mobilevit-xx-small")

inputs = feature_extractor(images=image, return_tensors="pt")

outputs = model(**inputs)
logits = outputs.logits
predicted_mask = logits.argmax(1).squeeze(0)

目前，特徵提取器和模型都支持PyTorch。

✨ 主要特性

• MobileViT是一種輕量級、低延遲的卷積神經網絡，它將MobileNetV2風格的層與一個新的模塊相結合，該模塊使用Transformer將卷積中的局部處理替換為全局處理。
• 與ViT（視覺Transformer）一樣，圖像數據在由Transformer層處理之前會被轉換為扁平化的圖像塊，之後這些圖像塊會被“恢復”為特徵圖，這使得MobileViT模塊可以放置在CNN中的任何位置，並且不需要任何位置嵌入。
• 本倉庫中的模型在MobileViT主幹網絡上添加了一個DeepLabV3頭部，用於語義分割任務。

📚 詳細文檔

模型描述

MobileViT是一種輕量級、低延遲的卷積神經網絡，它將MobileNetV2風格的層與一個新的模塊相結合，該模塊使用Transformer將卷積中的局部處理替換為全局處理。與ViT（視覺Transformer）一樣，圖像數據在由Transformer層處理之前會被轉換為扁平化的圖像塊，之後這些圖像塊會被“恢復”為特徵圖。這使得MobileViT模塊可以放置在CNN中的任何位置，並且不需要任何位置嵌入。本倉庫中的模型在MobileViT主幹網絡上添加了一個DeepLabV3頭部，用於語義分割任務。

預期用途和限制

你可以使用這個原始模型進行語義分割。你可以在模型中心查找針對你感興趣任務的微調版本。

訓練數據

MobileViT + DeepLabV3模型在ImageNet-1k數據集上進行預訓練，該數據集包含100萬張圖像和1000個類別，然後在PASCAL VOC2012數據集上進行微調。

訓練過程

預處理

在推理時，圖像會被中心裁剪為512x512大小，像素會被歸一化到[0, 1]範圍，並且圖像需要是BGR像素順序，而不是RGB。

預訓練

MobileViT網絡在8塊NVIDIA GPU上對ImageNet-1k數據集從頭開始訓練300個epoch，有效批量大小為1024，學習率預熱3000步，然後進行餘弦退火。同時使用了標籤平滑交叉熵損失和L2權重衰減。訓練分辨率從160x160到320x320不等，採用多尺度採樣。為了得到DeepLabV3模型，在PASCAL VOC數據集上使用4塊NVIDIA A100 GPU對MobileViT進行了微調。

評估結果

BibTeX引用和引用信息

@inproceedings{vision-transformer,
title = {MobileViT: Light-weight, General-purpose, and Mobile-friendly Vision Transformer},
author = {Sachin Mehta and Mohammad Rastegari},
year = {2022},
URL = {https://arxiv.org/abs/2110.02178}
}

📄 許可證

本模型使用的許可證是Apple示例代碼許可證。

免責聲明：發佈MobileViT的團隊沒有為這個模型編寫模型卡片，因此這個模型卡片由Hugging Face團隊編寫。