Gemma 3 27b It Qat 8bit

🚀 mlx-community/gemma-3-27b-it-qat-8bit

このモデルは、mlx-vlmバージョン0.1.23を使用して、google/gemma-3-27b-it-qat-q4_0-unquantized からMLX形式に変換されました。モデルの詳細については、元のモデルカードを参照してください。

🚀 クイックスタート

mlxでの使用方法

インストール

pip install -U mlx-vlm

実行コマンド

python -m mlx_vlm.generate --model mlx-community/gemma-3-27b-it-qat-8bit --max-tokens 100 --temperature 0.0 --prompt "Describe this image." --image <path_to_image>

📄 ライセンス

• ライセンス名: qwen
• ライセンスリンク: https://huggingface.co/Qwen/Qwen2.5-72B-Instruct/blob/main/LICENSE

```markdown
| 属性 | 详情 |
|------|------|
| パイプラインタグ | 画像-テキストからテキスト |
| ライブラリ名 | transformers |
| ベースモデル | OpenGVLab/InternVL3-1B-Instruct |
| ベースモデルの関係 | ファインチューニング |
| データセット | OpenGVLab/MMPR-v1.2 |
| 言語 | 多言語 |
| タグ | internvl、custom_code、mlx |