🚀 多模态多语言模型 (3ML)

本模型是 glm-4v-9b 模型的 4 位量化版本（小于 9G）。它在文档、图像和图表问答方面表现出色，性能优于 GPT-4-turbo-2024-04-09、Gemini 1.0 Pro、Qwen-VL-Max 和 Claude 3 Opus。

原模型的部分内容经过修改，可在 Google Colab 免费版上运行。

立即试用：

![Github 源码]

⚠️ 重要提示

为了在文档和图像理解方面获得最佳性能，请使用英语或中文。不过，该模型仍然可以处理任何支持语言的对话。

关于 GLM-4V-9B

GLM-4V-9B 是一个具备视觉理解能力的多模态语言模型。其相关经典任务的评估结果如下：

本仓库是 GLM-4V-9B 模型 4 位量化版本的模型仓库，支持 8K 上下文长度。

🚀 快速开始

可以使用 Colab 模型或运行以下 Python 脚本：

💻 使用示例

基础用法

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer
from PIL import Image

device = "cuda"

modelPath="nikravan/glm-4vq"
tokenizer = AutoTokenizer.from_pretrained(modelPath, trust_remote_code=True)

model = AutoModelForCausalLM.from_pretrained(
    modelPath,
    torch_dtype=torch.bfloat16,
    low_cpu_mem_usage=True,
    trust_remote_code=True,
    device_map="auto"
)

query ='explain all the details in this picture'
image = Image.open("a3.png").convert('RGB')
#image=""
inputs = tokenizer.apply_chat_template([{"role": "user", "image": image, "content": query}],
                                       add_generation_prompt=True, tokenize=True, return_tensors="pt",
                                       return_dict=True)  # chat with image mode

inputs = inputs.to(device)

gen_kwargs = {"max_length": 2500, "do_sample": True, "top_k": 1}
with torch.no_grad():
    outputs = model.generate(**inputs, **gen_kwargs)
    outputs = outputs[:, inputs['input_ids'].shape[1]:]
    print(tokenizer.decode(outputs[0]))