Blip2 Flan T5 Xl Sharded

🚀 Sharded BLIP - 2 Model Card - flan - t5 - xl

このモデルは、画像キャプショニングや視覚的質問応答などの画像からテキストへのタスクにFlan T5 - xlを活用した、blip2 - flan - t5 - xlのシャーディング版です。

• このモデルリポジトリはシャーディングされているため、低RAMのColabランタイムでも簡単にロードできます。
• モデルの説明、想定される用途、制限事項、および異なる精度でCPUとGPUでモデルを使用する方法の説明については、元のモデルカードを参照してください。

🚀 クイックスタート

このモデルの使い方や詳細については、元のモデルカードを参照するか、このブログ記事をご覧ください。以下は、CPUでの使用方法です。

📦 インストール

transformersの現在のmainブランチが必要です（執筆時点）。

pip install accelerate git+https://github.com/huggingface/transformers.git -U -q

💻 使用例

基本的な使用法

import requests
from PIL import Image
from transformers import BlipProcessor, Blip2ForConditionalGeneration

model_name = "ethzanalytics/blip2-flan-t5-xl-sharded"
processor = BlipProcessor.from_pretrained(model_name)
model = Blip2ForConditionalGeneration.from_pretrained(model_name)

img_url = 'https://storage.googleapis.com/sfr-vision-language-research/BLIP/demo.jpg' 
raw_image = Image.open(requests.get(img_url, stream=True).raw).convert('RGB')

question = "how many dogs are in the picture?"
inputs = processor(raw_image, question, return_tensors="pt")

out = model.generate(**inputs)
print(processor.decode(out[0], skip_special_tokens=True))

📄 ライセンス

このモデルはMITライセンスの下で提供されています。