T

Tinyclip ViT 39M 16 Text 19M YFCC15M

由 wkcn 开发
TinyCLIP是一种针对大规模语言-图像预训练模型的创新跨模态蒸馏方法,通过亲和力模仿与权重继承技术,实现了速度与精度的最佳平衡。
下载量 654
发布时间 : 12/19/2023

模型简介

TinyCLIP是一种跨模态蒸馏方法,通过亲和力模仿与权重继承技术,释放了小型CLIP模型的潜力,结合大规模模型与预训练数据的优势,适用于零样本图像分类任务。

模型特点

亲和力模仿
通过模仿大规模CLIP模型的跨模态亲和力关系,提升小模型的性能。
权重继承
自动或手动从大规模模型中继承权重,加速训练并提升模型效果。
高效推理
在参数量减少50%的同时获得2倍推理加速,保持高性能。

模型能力

零样本图像分类
跨模态检索
图像-文本匹配

使用案例

图像分类
动物识别
识别图像中的动物类别
在ImageNet上达到56.4%-63.5%准确率
内容检索
图文匹配
根据文本描述检索相关图像
AIbase
智启未来,您的人工智能解决方案智库
© 2025AIbase