Nanollava

🚀 nanoLLaVA - 小於10億參數的視覺語言模型

nanoLLaVA是一款“小而強大”的10億參數以下視覺語言模型，專為在邊緣設備上高效運行而設計。它能在有限資源下實現出色的視覺與語言處理能力，為邊緣計算場景提供有力支持。

🚀 快速開始

你可以使用transformers庫，通過以下腳本使用該模型：

pip install -U transformers accelerate flash_attn

import torch
import transformers
from transformers import AutoModelForCausalLM, AutoTokenizer
from PIL import Image
import warnings

# disable some warnings
transformers.logging.set_verbosity_error()
transformers.logging.disable_progress_bar()
warnings.filterwarnings('ignore')

# set device
torch.set_default_device('cuda')  # or 'cpu'

# create model
model = AutoModelForCausalLM.from_pretrained(
    'qnguyen3/nanoLLaVA',
    torch_dtype=torch.float16,
    device_map='auto',
    trust_remote_code=True)
tokenizer = AutoTokenizer.from_pretrained(
    'qnguyen3/nanoLLaVA',
    trust_remote_code=True)

# text prompt
prompt = 'Describe this image in detail'

messages = [
    {"role": "user", "content": f'<image>\n{prompt}'}
]
text = tokenizer.apply_chat_template(
    messages,
    tokenize=False,
    add_generation_prompt=True
)

print(text)

text_chunks = [tokenizer(chunk).input_ids for chunk in text.split('<image>')]
input_ids = torch.tensor(text_chunks[0] + [-200] + text_chunks[1], dtype=torch.long).unsqueeze(0)

# image, sample images can be found in images folder
image = Image.open('/path/to/image.png')
image_tensor = model.process_images([image], model.config).to(dtype=model.dtype)

# generate
output_ids = model.generate(
    input_ids,
    images=image_tensor,
    max_new_tokens=2048,
    use_cache=True)[0]

print(tokenizer.decode(output_ids[input_ids.shape[1]:], skip_special_tokens=True).strip())

✨ 主要特性

• 輕量級高效運行：作為10億參數以下的模型，能夠在邊緣設備上高效運行，降低了對硬件資源的要求。
• 多數據集表現出色：在多個視覺問答和多模態任務數據集上取得了不錯的成績，如在VQA v2中得分70.84，POPE中得分84.1等。

📦 安裝指南

使用以下命令安裝所需依賴：

pip install -U transformers accelerate flash_attn

📚 詳細文檔

模型信息

模型性能

訓練數據

訓練數據將在後續發佈，因為作者仍在撰寫相關論文。預計最終版本會比當前版本更強大。

微調代碼

即將推出！

提示格式

該模型遵循ChatML標準，但<|im_end|>末尾沒有\n：

<|im_start|>system
Answer the question<|im_end|><|im_start|>user
<image>
What is the picture about?<|im_end|><|im_start|>assistant

圖片	示例
	圖片中的文字說了什麼？ “Small but mighty”。 文字與圖片上下文有什麼關聯？ 文字似乎是對一個小而強大的形象（可能是老鼠或老鼠玩具）拿著槓鈴的一種有趣或幽默的表達。

📄 許可證

本項目採用Apache 2.0許可證。

⚠️ 重要提示

nanoLLaVA-1.5 已發佈，性能有顯著提升。請點擊此處查看。

模型使用了來自 Bunny 的修改版本進行訓練。