Tinyclip ViT 61M 32 Text 29M LAION400M

🚀 TinyCLIP: 類似度模倣と重み継承によるCLIP蒸留

TinyCLIPは、大規模言語画像事前学習モデルのための新しいクロスモーダル蒸留手法です。この手法は、「類似度模倣」と「重み継承」の2つの核心技術を導入しています。この研究により、小規模なCLIPモデルの能力が引き出され、大規模モデルや事前学習データが十分に活用され、速度と精度のバランスが最適化されます。

🚀 クイックスタート

モデル情報

Transformersでの使用方法

from PIL import Image
import requests

from transformers import CLIPProcessor, CLIPModel

model = CLIPModel.from_pretrained("wkcn/TinyCLIP-ViT-61M-32-Text-29M-LAION400M")
processor = CLIPProcessor.from_pretrained("wkcn/TinyCLIP-ViT-61M-32-Text-29M-LAION400M")

url = "http://images.cocodataset.org/val2017/000000039769.jpg"
image = Image.open(requests.get(url, stream=True).raw)

inputs = processor(text=["a photo of a cat", "a photo of a dog"], images=image, return_tensors="pt", padding=True)

outputs = model(**inputs)
logits_per_image = outputs.logits_per_image # this is the image-text similarity score
probs = logits_per_image.softmax(dim=1) # we can take the softmax to get the label probabilities

✨ 主な機能

高性能

TinyCLIP ViT-45M/32は、ViT-B/32のパラメータの半分しか使用せずに、同等のゼロショット性能を達成します。

高速推論

TinyCLIP ResNet-19Mは、パラメータを50%削減しながら、推論速度を2倍にし、ImageNetで56.4%の精度を達成します。

📚 ドキュメント

モデル一覧

注: 自動継承のモデルの設定は自動生成されます。

公式PyTorch実装

https://github.com/microsoft/Cream/tree/main/TinyCLIP

引用

このリポジトリが役に立った場合は、引用を検討してください。ありがとうございます！

@InProceedings{tinyclip,
    title     = {TinyCLIP: CLIP Distillation via Affinity Mimicking and Weight Inheritance},
    author    = {Wu, Kan and Peng, Houwen and Zhou, Zhenghong and Xiao, Bin and Liu, Mengchen and Yuan, Lu and Xuan, Hong and Valenzuela, Michael and Chen, Xi (Stephen) and Wang, Xinggang and Chao, Hongyang and Hu, Han},
    booktitle = {Proceedings of the IEEE/CVF International Conference on Computer Vision (ICCV)},
    month     = {October},
    year      = {2023},
    pages     = {21970-21980}
}

謝辞

当社のコードは、CLIP、OpenCLIP、CoFi、PyTorchに基づいています。貢献者の素晴らしい貢献に感謝します！

📄 ライセンス

• ライセンス