🚀 多模態多語言模型 (3ML)

本模型是 glm-4v-9b 模型的 4 位量化版本（小於 9G）。它在文檔、圖像和圖表問答方面表現出色，性能優於 GPT-4-turbo-2024-04-09、Gemini 1.0 Pro、Qwen-VL-Max 和 Claude 3 Opus。

原模型的部分內容經過修改，可在 Google Colab 免費版上運行。

立即試用：

![Github 源碼]

⚠️ 重要提示

為了在文檔和圖像理解方面獲得最佳性能，請使用英語或中文。不過，該模型仍然可以處理任何支持語言的對話。

關於 GLM-4V-9B

GLM-4V-9B 是一個具備視覺理解能力的多模態語言模型。其相關經典任務的評估結果如下：

本倉庫是 GLM-4V-9B 模型 4 位量化版本的模型倉庫，支持 8K 上下文長度。

🚀 快速開始

可以使用 Colab 模型或運行以下 Python 腳本：

💻 使用示例

基礎用法

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer
from PIL import Image

device = "cuda"

modelPath="nikravan/glm-4vq"
tokenizer = AutoTokenizer.from_pretrained(modelPath, trust_remote_code=True)

model = AutoModelForCausalLM.from_pretrained(
    modelPath,
    torch_dtype=torch.bfloat16,
    low_cpu_mem_usage=True,
    trust_remote_code=True,
    device_map="auto"
)

query ='explain all the details in this picture'
image = Image.open("a3.png").convert('RGB')
#image=""
inputs = tokenizer.apply_chat_template([{"role": "user", "image": image, "content": query}],
                                       add_generation_prompt=True, tokenize=True, return_tensors="pt",
                                       return_dict=True)  # chat with image mode

inputs = inputs.to(device)

gen_kwargs = {"max_length": 2500, "do_sample": True, "top_k": 1}
with torch.no_grad():
    outputs = model.generate(**inputs, **gen_kwargs)
    outputs = outputs[:, inputs['input_ids'].shape[1]:]
    print(tokenizer.decode(outputs[0]))