Gemma 3 12b It Qat 3bit

🚀 mlx-community/gemma-3-12b-it-qat-3bit

このモデルは、mlx-vlmバージョン 0.1.25 を使用して、google/gemma-3-12b-it-qat-q4_0-unquantized からMLX形式に変換されました。モデルの詳細については、元のモデルカード を参照してください。

🚀 クイックスタート

📦 インストール

pip install -U mlx-vlm

💻 使用例

基本的な使用法

python -m mlx_vlm.generate --model mlx-community/gemma-3-12b-it-qat-3bit --max-tokens 100 --temperature 0.0 --prompt "Describe this image." --image <path_to_image>

📄 ライセンス

このモデルは Qwenライセンス の下で提供されています。