Blip Image Captioning Base Bf16

🚀 Blip圖像描述基礎BF16

Blip圖像描述基礎BF16模型是圖像轉文本模型 Salesforce/blip-image-captioning-base 的量化版本。通過將浮點數精度從float32量化為bfloat16，模型的內存佔用從989MB降至494MB，內存大小減少了50%。

🚀 快速開始

使用以下代碼開始使用該模型：

from transformers import BlipForConditionalGeneration, BlipProcessor
import requests
from PIL import Image

model = BlipForConditionalGeneration.from_pretrained("gospacedev/blip-image-captioning-base-bf16")
processor = BlipProcessor.from_pretrained("gospacedev/blip-image-captioning-base-bf16")

# Load sample image
image = Image.open(requests.get(img_url, stream=True).raw).convert('RGB')

# Generate output
inputs = processor(image, return_tensors="pt")
output = model.generate(**inputs)
result = processor.decode(out[0], skip_special_tokens=True)

print(results)

💻 使用示例

基礎用法

一隻貓坐在紫色和紅色條紋的地毯上

📚 詳細文檔

模型詳情

📄 許可證

本模型採用MIT許可證。