Swinv2 Base Patch4 Window16 256

🚀 Swin Transformer v2 (基础大小模型)

Swin Transformer v2是基于Transformer架构的图像分类模型，在ImageNet-1k数据集上进行预训练，能够有效处理图像分类任务，具有良好的性能和稳定性。

🚀 快速开始

Swin Transformer v2基础大小模型在分辨率为256x256的ImageNet-1k数据集上进行了预训练。它由Liu等人在论文 Swin Transformer V2: Scaling Up Capacity and Resolution 中提出，并首次在 此仓库 中发布。

需要注意的是，发布Swin Transformer v2的团队并未为此模型编写模型卡片，本模型卡片由Hugging Face团队编写。

✨ 主要特性

模型描述

Swin Transformer是一种视觉Transformer。它通过在更深的层中合并图像块（灰色部分所示）来构建分层特征图，并且由于仅在每个局部窗口（红色部分所示）内计算自注意力，因此对输入图像大小具有线性计算复杂度。因此，它可以作为图像分类和密集识别任务的通用主干网络。相比之下，之前的视觉Transformer生成单一低分辨率的特征图，并且由于全局计算自注意力，对输入图像大小具有二次计算复杂度。

Swin Transformer v2主要有3点改进：

1. 采用残差后归一化方法与余弦注意力相结合，以提高训练稳定性；
2. 采用对数间隔连续位置偏差方法，以有效地将使用低分辨率图像预训练的模型迁移到高分辨率输入的下游任务；
3. 采用自监督预训练方法SimMIM，以减少对大量标记图像的需求。

来源

预期用途和限制

你可以使用原始模型进行图像分类。可以访问 模型中心 查找针对你感兴趣的任务进行微调的版本。

💻 使用示例

基础用法

以下是如何使用此模型将COCO 2017数据集中的图像分类为1000个ImageNet类别之一的示例代码：

from transformers import AutoImageProcessor, AutoModelForImageClassification
from PIL import Image
import requests

url = "http://images.cocodataset.org/val2017/000000039769.jpg"
image = Image.open(requests.get(url, stream=True).raw)

processor = AutoImageProcessor.from_pretrained("microsoft/swinv2-base-patch4-window16-256")
model = AutoModelForImageClassification.from_pretrained("microsoft/swinv2-base-patch4-window16-256")

inputs = processor(images=image, return_tensors="pt")
outputs = model(**inputs)
logits = outputs.logits
# 模型预测1000个ImageNet类别之一
predicted_class_idx = logits.argmax(-1).item()
print("Predicted class:", model.config.id2label[predicted_class_idx])

更多代码示例，请参考 文档。

BibTeX引用和引用信息

@article{DBLP:journals/corr/abs-2111-09883,
  author    = {Ze Liu and
               Han Hu and
               Yutong Lin and
               Zhuliang Yao and
               Zhenda Xie and
               Yixuan Wei and
               Jia Ning and
               Yue Cao and
               Zheng Zhang and
               Li Dong and
               Furu Wei and
               Baining Guo},
  title     = {Swin Transformer {V2:} Scaling Up Capacity and Resolution},
  journal   = {CoRR},
  volume    = {abs/2111.09883},
  year      = {2021},
  url       = {https://arxiv.org/abs/2111.09883},
  eprinttype = {arXiv},
  eprint    = {2111.09883},
  timestamp = {Thu, 02 Dec 2021 15:54:22 +0100},
  biburl    = {https://dblp.org/rec/journals/corr/abs-2111-09883.bib},
  bibsource = {dblp computer science bibliography, https://dblp.org}
}

📄 许可证

本项目采用Apache-2.0许可证。