G

Gemma 3 4b It Int8 Asym Ov

由Echo9Zulu開發
基於OpenVINO優化的Gemma 3 4B參數模型,支持文本到文本及視覺文本推理
下載量 152
發布時間 : 4/12/2025

模型概述

該模型是Google Gemma 3 4B參數版本的OpenVINO優化版本,通過Optimum-Intel轉換為INT8格式,支持圖像文本到文本的多模態推理任務。

模型特點

OpenVINO優化
通過Intel OpenVINO工具套件優化,提升在Intel硬件上的推理性能
多模態支持
支持同時處理圖像和文本輸入,實現視覺文本推理
INT8量化
採用非對稱INT8量化技術,減少模型大小同時保持精度
低延遲優化
針對首詞元延遲進行特別優化,適合即時應用場景

模型能力

文本生成
圖像描述生成
多模態推理
對話系統

使用案例

內容生成
圖像描述生成
根據輸入圖像生成詳細描述
可生成準確反映圖像內容的文本描述
智能助手
視覺問答
回答關於圖像內容的自然語言問題
可理解圖像內容並提供相關回答
AIbase
智啟未來,您的人工智能解決方案智庫
© 2025AIbase