Chinese Clip Vit Large Patch14 336px

🚀 Chinese-CLIP-ViT-Large-Patch14-336px

このモデルは、中国語版CLIPの大規模バージョンです。画像エンコーダにViT-L/14@336px、テキストエンコーダにRoBERTa-wwm-baseを使用しています。Chinese CLIPは、約2億件の中国語の画像とテキストのペアからなる大規模データセットを用いたCLIPのシンプルな実装です。詳細については、技術レポートhttps://arxiv.org/abs/2211.01335 と公式のGitHubリポジトリhttps://github.com/OFA-Sys/Chinese-CLIP を参照してください（スターをつけることをおすすめします🔥🔥）。

🚀 クイックスタート

✨ 主な機能

このモデルは、中国語の画像とテキストのペアを用いて学習されたCLIPモデルです。画像とテキストの埋め込みベクトルを計算し、それらの類似度を求めることができます。

📦 インストール

このセクションでは、原READMEにインストール手順が記載されていないため、省略します。

💻 使用例

基本的な使用法

from PIL import Image
import requests
from transformers import ChineseCLIPProcessor, ChineseCLIPModel

model = ChineseCLIPModel.from_pretrained("OFA-Sys/chinese-clip-vit-large-patch14-336px")
processor = ChineseCLIPProcessor.from_pretrained("OFA-Sys/chinese-clip-vit-large-patch14-336px")

url = "https://clip-cn-beijing.oss-cn-beijing.aliyuncs.com/pokemon.jpeg"
image = Image.open(requests.get(url, stream=True).raw)
# Squirtle, Bulbasaur, Charmander, Pikachu in English
texts = ["杰尼龟", "妙蛙种子", "小火龙", "皮卡丘"]

# compute image feature
inputs = processor(images=image, return_tensors="pt")
image_features = model.get_image_features(**inputs)
image_features = image_features / image_features.norm(p=2, dim=-1, keepdim=True)  # normalize

# compute text features
inputs = processor(text=texts, padding=True, return_tensors="pt")
text_features = model.get_text_features(**inputs)
text_features = text_features / text_features.norm(p=2, dim=-1, keepdim=True)  # normalize

# compute image-text similarity scores
inputs = processor(text=texts, images=image, return_tensors="pt", padding=True)
outputs = model(**inputs)
logits_per_image = outputs.logits_per_image  # this is the image-text similarity score
probs = logits_per_image.softmax(dim=1)  # probs: [[0.0219, 0.0316, 0.0043, 0.9423]]

📚 ドキュメント

結果

MUGE Text-to-Image Retrieval

Flickr30K-CN Retrieval

COCO-CN Retrieval

Zero-shot Image Classification

📄 ライセンス

このセクションでは、原READMEにライセンス情報が記載されていないため、省略します。

🔧 技術詳細

このセクションでは、原READMEに技術詳細が十分に記載されていないため、省略します。

📖 引用

もしChinese CLIPが役に立った場合は、以下の論文を引用してください。ありがとうございます！

@article{chinese-clip,
  title={Chinese CLIP: Contrastive Vision-Language Pretraining in Chinese},
  author={Yang, An and Pan, Junshu and Lin, Junyang and Men, Rui and Zhang, Yichang and Zhou, Jingren and Zhou, Chang},
  journal={arXiv preprint arXiv:2211.01335},
  year={2022}
}