Van Small

🚀 Van

Vanは、ImageNet-1kで学習されたモデルです。このモデルは論文 Visual Attention Network で紹介され、このリポジトリ で最初に公開されました。

なお、Vanを公開したチームはこのモデルのモデルカードを作成していないため、このモデルカードはHugging Faceチームによって作成されています。

✨ 主な機能

この論文では、畳み込み演算に基づく新しい注意層が導入されており、局所的な関係と遠距離の関係の両方を捉えることができます。これは、通常のカーネルと大きなカーネルの畳み込み層を組み合わせることで実現されています。後者は、拡張畳み込みを使用して遠距離の相関を捉えます。

🚀 クイックスタート

このモデルを画像分類に使用することができます。興味のあるタスクに関するファインチューニング済みのバージョンを探すには、モデルハブ を参照してください。

使い方

このモデルの使用方法は次の通りです。

>>> from transformers import AutoFeatureExtractor, VanForImageClassification
>>> import torch
>>> from datasets import load_dataset

>>> dataset = load_dataset("huggingface/cats-image")
>>> image = dataset["test"]["image"][0]

>>> feature_extractor = AutoFeatureExtractor.from_pretrained("Visual-Attention-Network/van-base")
>>> model = VanForImageClassification.from_pretrained("Visual-Attention-Network/van-base")

>>> inputs = feature_extractor(image, return_tensors="pt")

>>> with torch.no_grad():
...     logits = model(**inputs).logits

>>> # モデルは1000のImageNetクラスのうちの1つを予測します
>>> predicted_label = logits.argmax(-1).item()
>>> print(model.config.id2label[predicted_label])
tabby, tabby cat

より多くのコード例については、ドキュメント を参照してください。

📄 ライセンス

このモデルは、Apache-2.0ライセンスの下で提供されています。