FARE4 ViT B 16 Laion2b S34b B88k

🚀 Open_clip

CLIPモデル laion/CLIP - ViT - B - 16 - laion2B - s34B - b88K をベースとした、堅牢な知覚指標です。

[論文] [GitHub]

このモデルは、CLIPモデル laion/CLIP-ViT-B-16-laion2B-s34B-b88K をベースにした堅牢な知覚指標です。FARE (Schlarmann et al. (2024)) を用いて、ImageNet上で無限ノルムと半径4/255で敵対的に微調整されています。

知覚的類似性タスク NIGHTS でのパフォーマンス:

Clean     L-inf, eps=4/255     L2, eps=3
90.6      71.5                 65.5

🚀 クイックスタート

💻 使用例

基本的な使用法

model, _, image_processor = open_clip.create_model_and_transforms('hf-hub:chs20/FARE4-ViT-B-16-laion2B-s34B-b88K')

📄 ライセンス

このプロジェクトはMITライセンスの下で公開されています。

📚 ドキュメント

引用

このモデルが有用であれば、以下の論文を引用していただけると幸いです。

@inproceedings{croce2024adversarially,
  title={Adversarially Robust CLIP Models Can Induce Better (Robust) Perceptual Metrics},
  author={Croce, Francesco and Schlarmann, Christian and Singh, Naman Deep and Hein, Matthias},
  year={2025},
  booktitle={{SaTML}}
}

@inproceedings{schlarmann2024robustclip,
    title={Robust CLIP: Unsupervised Adversarial Fine-Tuning of Vision Embeddings for Robust Large Vision-Language Models}, 
    author={Schlarmann, Christian and Singh, Naman Deep and Croce, Francesco and Hein, Matthias},
    year={2024},
    booktitle={{ICML}}
}