Blip Base Captioning Ft Hl Scenes

🚀 BLIP-base：高レベルシーン記述による画像キャプショニング用にファインチューニングされたモデル

BLIP ベースのモデルは、HLデータセット を使用して、画像のシーン生成 のために訓練されています。

🚀 クイックスタート

このセクションでは、モデルの概要と使用方法の基本を説明します。

✨ 主な機能

• 画像キャプショニング：高レベルなシーン記述を生成します。
• 高精度：特定のデータセットでファインチューニングされ、高い性能を発揮します。

📦 インストール

このモデルを使用するには、transformers ライブラリが必要です。以下のコマンドでインストールできます。

pip install transformers

💻 使用例

基本的な使用法

import requests
from PIL import Image
from transformers import BlipProcessor, BlipForConditionalGeneration

processor = BlipProcessor.from_pretrained("michelecafagna26/blip-base-captioning-ft-hl-scenes")
model = BlipForConditionalGeneration.from_pretrained("michelecafagna26/blip-base-captioning-ft-hl-scenes").to("cuda")

img_url = 'https://datasets-server.huggingface.co/assets/michelecafagna26/hl/--/default/train/0/image/image.jpg' 
raw_image = Image.open(requests.get(img_url, stream=True).raw).convert('RGB')


inputs = processor(raw_image, return_tensors="pt").to("cuda")
pixel_values = inputs.pixel_values

generated_ids = model.generate(pixel_values=pixel_values, max_length=50,
            do_sample=True,
            top_k=120,
            top_p=0.9,
            early_stopping=True,
            num_return_sequences=1)

processor.batch_decode(generated_ids, skip_special_tokens=True)

>>> "the picture is taken near a lake."

🔧 技術詳細

モデルのファインチューニング 🏋️‍

• 訓練エポック数：10エポック
• 学習率：5e−5
• オプティマイザ：Adamオプティマイザ
• 精度：半精度 (fp16)

テストセットのメトリクス 🧾

📚 ドキュメント

BibTexと引用情報

@inproceedings{cafagna2023hl,
  title={{HL} {D}ataset: {V}isually-grounded {D}escription of {S}cenes, {A}ctions and
{R}ationales},
  author={Cafagna, Michele and van Deemter, Kees and Gatt, Albert},
  booktitle={Proceedings of the 16th International Natural Language Generation Conference (INLG'23)},
address = {Prague, Czech Republic},
  year={2023}
}

📄 ライセンス

このモデルは、Apache-2.0ライセンスの下で提供されています。