Gemma 3 12b It Qat 4bit

🚀 mlx-community/gemma-3-12b-it-qat-4bit

本模型使用mlx - vlm版本 0.1.25 從 google/gemma-3-12b-it-qat-q4_0-unquantized 轉換為MLX格式。如需瞭解該模型的更多詳細信息，請參考 原始模型卡片。

🚀 快速開始

✨ 主要特性

• 模型基於OpenGVLab/InternVL3 - 1B - Instruct進行微調。
• 支持多語言。
• 可處理圖像文本到文本的任務。

📦 安裝指南

使用以下命令安裝所需的庫：

pip install -U mlx-vlm

💻 使用示例

基礎用法

使用以下命令生成文本：

python -m mlx_vlm.generate --model mlx-community/gemma-3-12b-it-qat-4bit --max-tokens 100 --temperature 0.0 --prompt "Describe this image." --image <path_to_image>

📄 許可證

本項目採用 Qwen許可證。

信息表格