Gemma 3 27b It Qat 4bit

🚀 mlx-community/gemma-3-27b-it-qat-4bit

このモデルは、mlx-vlmバージョン 0.1.23 を使用して、google/gemma-3-27b-it-qat-q4_0-unquantized からMLX形式に変換されました。モデルの詳細については、元のモデルカード を参照してください。

🚀 クイックスタート

mlxでの使用方法

pip install -U mlx-vlm

python -m mlx_vlm.generate --model mlx-community/gemma-3-27b-it-qat-4bit --max-tokens 100 --temperature 0.0 --prompt "Describe this image." --image <path_to_image>

📄 ライセンス

このモデルは、Qwenライセンス の下で提供されています。