Swin Distilbertimbau

🚀 用於巴西葡萄牙語圖像描述的Swin - DistilBERTimbau

Swin - DistilBERTimbau模型是在Flickr30K葡萄牙語（使用谷歌翻譯API的翻譯版本）上針對圖像描述任務進行訓練的，分辨率為224x224，最大序列長度為512個標記。

🚀 快速開始

使用以下代碼開始使用該模型：

基礎用法

import requests
from PIL import Image

from transformers import AutoTokenizer, AutoImageProcessor, VisionEncoderDecoderModel

# 加載經過微調的圖像描述模型以及相應的分詞器和圖像處理器
model = VisionEncoderDecoderModel.from_pretrained("laicsiifes/swin-distilbertimbau")
tokenizer = AutoTokenizer.from_pretrained("laicsiifes/swin-distilbertimbau")
image_processor = AutoImageProcessor.from_pretrained("laicsiifes/swin-distilbertimbau")

# 預處理圖像
url = "http://images.cocodataset.org/val2014/COCO_val2014_000000458153.jpg"
image = Image.open(requests.get(url, stream=True).raw)
pixel_values = image_processor(image, return_tensors="pt").pixel_values

# 生成描述
generated_ids = model.generate(pixel_values)
generated_text = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]

高級用法

import matplotlib.pyplot as plt

# 繪製帶有描述的圖像
plt.imshow(image)
plt.axis("off")
plt.title(generated_text)
plt.show()

✨ 主要特性

• 模型架構：Swin - DistilBERTimbau是一種視覺編碼器 - 解碼器模型，它利用了Swin Transformer的檢查點作為編碼器，以及DistilBERTimbau的檢查點作為解碼器。編碼器的檢查點來自於在分辨率為224x224的ImageNet - 1k上預訓練的Swin Transformer版本。
• 訓練和評估代碼：用於訓練和評估的代碼可在以下鏈接獲取：https://github.com/laicsiifes/ved-transformer-caption-ptbr。在這項工作中，Swin - DistilBERTimbau與它的夥伴模型Swin - GPorTuguese - 2一起進行訓練。

📚 詳細文檔

模型信息

評估結果

評估指標CIDEr - D、BLEU@4、ROUGE - L、METEOR和BERTScore（使用BERTimbau）分別簡稱為C、B@4、RL、M和BS。

📄 許可證

本項目採用MIT許可證。

📋 BibTeX引用

@inproceedings{bromonschenkel2024comparative,
  title={A Comparative Evaluation of Transformer-Based Vision Encoder-Decoder Models for Brazilian Portuguese Image Captioning},
  author={Bromonschenkel, Gabriel and Oliveira, Hil{\'a}rio and Paix{\~a}o, Thiago M},
  booktitle={2024 37th SIBGRAPI Conference on Graphics, Patterns and Images (SIBGRAPI)},
  pages={1--6},
  year={2024},
  organization={IEEE}
}