Vit So400m Patch16 Siglip Gap 512.v2 Webli

🚀 vit_so400m_patch16_siglip_gap_512.v2_webli のモデルカード

timm 用のSigLIP 2 ViT（画像エンコーダのみ）です。https://huggingface.co/timm/ViT-SO400M-16-SigLIP2-512 の画像タワーと同等です。この gap バリアントはグローバル平均プーリングを使用し、アテンションプーリングヘッドを削除しています。

📚 ドキュメント

モデルの詳細

引用

@article{tschannen2025siglip,
          title={SigLIP 2: Multilingual Vision-Language Encoders with Improved Semantic Understanding, Localization, and Dense Features},
          author={Tschannen, Michael and Gritsenko, Alexey and Wang, Xiao and Naeem, Muhammad Ferjad and Alabdulmohsin, Ibrahim and Parthasarathy, Nikhil and Evans, Talfan and Beyer, Lucas and Xia, Ye and Mustafa, Basil and H'enaff, Olivier and Harmsen, Jeremiah and Steiner, Andreas and Zhai, Xiaohua},
          year={2025},
          journal={arXiv preprint arXiv:2502.14786}
        }
        

@inproceedings{zhai2023sigmoid,
          title={Sigmoid loss for language image pre-training},
          author={Zhai, Xiaohua and Mustafa, Basil and Kolesnikov, Alexander and Beyer, Lucas},
          booktitle={Proceedings of the IEEE/CVF International Conference on Computer Vision},
          pages={11975--11986},
          year={2023}
        }
        

📄 ライセンス

このモデルは apache-2.0 ライセンスの下で提供されています。