G

Gemma 3 4b It Qat 4bit

由mlx-community開發
Gemma 3 4B IT QAT 4bit 是一個經過量化感知訓練(QAT)的4位量化大語言模型,基於Gemma 3架構,專為MLX框架優化。
下載量 607
發布時間 : 4/15/2025

模型概述

該模型是從Hugging Face格式轉換到MLX格式的量化版本,適用於圖像文本到文本的任務,支持多語言處理。

模型特點

4位量化
模型經過量化感知訓練(QAT),以4位精度運行,顯著減少內存佔用和計算需求。
MLX優化
專為MLX框架優化,提供高效的推理性能。
多語言支持
支持多種語言處理,適用於國際化應用場景。

模型能力

圖像文本生成
多語言文本處理
高效推理

使用案例

圖像理解與描述
圖像描述生成
根據輸入的圖像生成詳細的文本描述。
生成準確且連貫的圖像描述。
多語言應用
多語言圖像標註
為圖像生成多語言標籤或描述。
支持多種語言的圖像標註。
AIbase
智啟未來,您的人工智能解決方案智庫
© 2025AIbase