Comp SigLIP So400M

🚀 CoMP-MM-1Bモデルカード

このモデルは、SigLIP から継続的に事前学習された、ネイティブ画像解像度入力をサポートするVFMです。

📦 インストール

GitHubリポジトリをインストールし、以下のコードを使用してモデルを始めることができます。

import torch
from slimm.model.processor import SliMMQwen2VLProcessor
from slimm.model.utils_vl import process_vision_info
from slimm.model.vision_encoder import CoMPSiglipVisionModel
from PIL import Image

model_path = "SliMM-X/CoMP-SigLIP-So400M"

model = CoMPSiglipVisionModel.from_pretrained(
    model_path, torch_dtype="auto", device_map="cuda", w_merger=False
).to(torch.bfloat16)


processor = SliMMQwen2VLProcessor.from_pretrained(model_path)

image_input = Image.open("https://slimm-x.github.io/comp/figs/teaser.png")
inputs = processor(
    images=image_input,
    return_tensors="pt",
)

inputs = inputs.to("cuda")
output_feat = model(inputs.pixel_values.to(torch.bfloat16), inputs.image_grid_thw)
print(output_feat)

📚 ドキュメント

モデル情報

モデルソース

• リポジトリ: https://github.com/SliMM-X/CoMP-MM
• 論文: https://arxiv.org/abs/2503.18931
• プロジェクトページ: https://slimm-x.github.io/comp

📄 ライセンス

このモデルは、Apache-2.0ライセンスの下で提供されています。

📚 引用

BibTeX:

@article{comp2025,
      title={CoMP: Continual Multimodal Pre-training for Vision Foundation Models}, 
      author={Chen, Yitong and Meng, Lingchen and Peng, Wujian and Wu, Zuxuan and Jiang, Yu-Gang},
      year={2025},
      journal={arXiv preprint arXiv:2503.18931}, 
}