Git Base Captioning Ft Hl Narratives

🚀 GIT-base针对叙事图像字幕生成进行微调

本项目基于GIT基础模型，在HL Narratives数据集上进行训练，用于生成高级叙事描述。

✨ 主要特性

• 基于GIT基础模型进行微调，专注于叙事图像字幕生成。
• 在HL Narratives数据集上训练，适用于生成高质量的叙事描述。

📦 安装指南

文档中未提及安装步骤，暂不展示。

💻 使用示例

基础用法

import requests
from PIL import Image
from transformers import AutoProcessor, AutoModelForCausalLM

processor = AutoProcessor.from_pretrained("git-base-captioning-ft-hl-narratives")
model = AutoModelForCausalLM.from_pretrained("git-base-captioning-ft-hl-narratives").to("cuda")

img_url = 'https://datasets-server.huggingface.co/assets/michelecafagna26/hl/--/default/train/0/image/image.jpg' 
raw_image = Image.open(requests.get(img_url, stream=True).raw).convert('RGB')

inputs = processor(raw_image, return_tensors="pt").to("cuda")
pixel_values = inputs.pixel_values

generated_ids = model.generate(pixel_values=pixel_values, max_length=50,
            do_sample=True,
            top_k=120,
            top_p=0.9,
            early_stopping=True,
            num_return_sequences=1)

processor.batch_decode(generated_ids, skip_special_tokens=True)

>>> "she is posing for a photo on the beach, she wants to post on her social media."

📚 详细文档

模型微调 🏋️‍

• 训练轮数：3轮
• 学习率：5e−5
• 优化器：Adam
• 精度：半精度（fp16）

测试集指标 🧾

🔧 技术细节

文档中未提及技术实现细节，暂不展示。

📄 许可证

本项目使用Apache-2.0许可证。

BibTex和引用信息

@inproceedings{cafagna2023hl,
  title={{HL} {D}ataset: {V}isually-grounded {D}escription of {S}cenes, {A}ctions and
{R}ationales},
  author={Cafagna, Michele and van Deemter, Kees and Gatt, Albert},
  booktitle={Proceedings of the 16th International Natural Language Generation Conference (INLG'23)},
address = {Prague, Czech Republic},
  year={2023}
}