Vit Huge Patch14 Clip Quickgelu 378.dfn5b
基於CLIP架構的ViT-Huge圖像編碼器,使用DFN5B數據集訓練,支持快速GELU激活
下載量 27
發布時間 : 12/26/2024
模型概述
該模型是CLIP框架中的視覺編碼器部分,採用Vision Transformer (ViT)架構,特別設計用於高效處理圖像特徵提取任務。
模型特點
大尺寸ViT架構
採用ViT-Huge架構,具有更強的特徵提取能力
快速GELU激活
使用QuickGELU激活函數,提高計算效率
CLIP兼容設計
作為CLIP框架的視覺編碼器部分,可與文本編碼器配合使用
大規模預訓練
基於DFN5B數據集訓練,具有強大的視覺表示能力
模型能力
圖像特徵提取
視覺表示學習
跨模態對齊
使用案例
計算機視覺
圖像分類
提取圖像特徵用於分類任務
圖像檢索
生成圖像嵌入用於相似性搜索
多模態應用
圖文匹配
與文本編碼器配合實現圖文跨模態匹配
精選推薦AI模型
Llama 3 Typhoon V1.5x 8b Instruct
專為泰語設計的80億參數指令模型,性能媲美GPT-3.5-turbo,優化了應用場景、檢索增強生成、受限生成和推理任務
大型語言模型
Transformers 支持多種語言

L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-Tiny是一個基於SODA數據集訓練的超小型對話模型,專為邊緣設備推理設計,體積僅為Cosmo-3B模型的2%左右。
對話系統
Transformers 英語

C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
基於RoBERTa架構的中文抽取式問答模型,適用於從給定文本中提取答案的任務。
問答系統 中文
R
uer
2,694
98