Tikz Llava 1.5 7b

🚀 画像からTikZコード生成モデル

このモデルは手書きスケッチを元にTikZダイアグラムを生成するために微調整されたマルチモーダルLLaVAモデルです。

🚀 クイックスタート

from transformers import pipeline
from PIL import Image
import requests

pipe = pipeline("image-to-text", model="waleko/TikZ-llava-1.5-7b")

url = "https://waleko.github.io/data/image.jpg"
image = Image.open(requests.get(url, stream=True).raw)
prompt = "Assistant helps to write down the TikZ code for the user's image. USER: <image>\nWrite down the TikZ code to draw the diagram shown in the image. ASSISTANT: "

print(pipe(image, prompt=prompt)[0]['generated_text'])

🔧 技術詳細

訓練データ

合成TikZ-short-codeデータセットを使用して訓練されています。