Test Push

🚀 distilvit

distilvit是一个正在开发中的模型，它基于特定的基础模型进行微调，可用于图像到文本的转换任务，在图像描述生成等场景具有重要价值。

🚀 快速开始

该模型是对以下基础模型的微调版本：

• 用于图像编码器的VIT模型：https://huggingface.co/google/vit-base-patch16-224-in21k
• 用于文本解码器的Distilled GPT - 2模型：https://huggingface.co/distilbert/distilgpt2

✨ 主要特性

• 多数据集训练：此模型在多个数据集上进行了训练，包括Flickr30k（https://huggingface.co/datasets/nlphuji/flickr30k ）和COCO 2017（https://cocodataset.org ），你可以使用3083a3cef6e3c8dd90df3f088074bbe836b0f403提交获取该检查点。之后，它还在Flickr30k debiased（https://huggingface.co/datasets/Mozilla/flickr30k-transformed-captions ）和DocOrNot（https://huggingface.co/datasets/Mozilla/docornot ）上进行了进一步微调。
• 代码开源：你可以在https://github.com/mozilla/distilvit 找到用于创建该模型的代码。

📚 详细文档

框架版本

• Transformers 4.40.2
• Pytorch 2.3.0+cu121
• Datasets 2.19.1
• Tokenizers 0.19.1

模型指标

评估结果

📄 许可证

本模型采用Apache - 2.0许可证。