G

Gemma 3 27b It GPTQ 4b 128g

由ISTA-DASLab開發
該模型是對gemma-3-27b-it進行INT4量化的版本,通過減少每個參數的比特數來降低磁盤和GPU內存需求。
下載量 32.15k
發布時間 : 3/14/2025

模型概述

通過對gemma-3-27b-it的權重進行INT4量化獲得,優化了磁盤佔用和GPU內存需求,同時保持了較高的性能保留率。

模型特點

INT4量化
將每個參數的比特數從16降至4,顯著減少磁盤佔用和GPU內存需求。
性能保留率高
在OpenLLM v1基準測試中,性能保留率達到99.44%。
多模態支持
支持圖像和文本的聯合處理,適用於多模態任務。

模型能力

文本生成
圖像描述
多模態任務處理

使用案例

內容生成
圖像描述生成
根據輸入的圖像生成詳細的文字描述。
生成自然、準確的圖像描述。
智能助手
多模態對話
結合圖像和文本輸入進行智能對話。
提供上下文相關的回答和建議。
AIbase
智啟未來,您的人工智能解決方案智庫
© 2025AIbase