Q

Qwen2.5 VL 7B Instruct Gemlite Ao A8w8

由mobiuslabsgmbh開發
這是一個經過A8W8量化的多模態大語言模型,基於Qwen2.5-VL-7B-Instruct,支持視覺和語言任務。
下載量 161
發布時間 : 6/4/2025

模型概述

該模型是Qwen2.5-VL-7B-Instruct的量化版本,使用TorchAO和GemLite作為後端,適用於視覺語言理解和生成任務。

模型特點

A8W8量化
模型經過8位激活和8位權重量化,減少內存佔用和計算需求
多模態支持
同時處理圖像和文本輸入,實現視覺語言理解
高效推理
使用TorchAO和GemLite後端優化推理性能

模型能力

圖像描述生成
視覺問答
多模態對話
文本生成

使用案例

內容理解
圖像描述
根據輸入圖像生成自然語言描述
可生成準確描述圖像內容的文本
智能助手
多模態對話
結合圖像和文本進行對話交互
能夠理解圖像內容並回答相關問題
AIbase
智啟未來,您的人工智能解決方案智庫
© 2025AIbase