VL Rethinker 7B Mlx 4bit

🚀 VL-Rethinker-7B 4-bit MLX

VL-Rethinker-7B 4-bit MLX 模型是視覺問答領域的利器，它基於原始的 VL-Rethinker-7B 模型轉換而來，採用 MLX 格式，在多模態處理上表現出色，能為用戶提供高效準確的視覺問答服務。

🚀 快速開始

本模型是使用 mlx-vlm 版本 0.1.23 從 TIGER-Lab/VL-Rethinker-7B 轉換為 MLX 格式的。

如需瞭解該模型的更多詳細信息，請參考 原始模型卡片 和 📖論文。

📦 安裝指南

pip install -U mlx-vlm

💻 使用示例

基礎用法

python -m mlx_vlm.generate --model TheCluster/VL-Rethinker-7B-mlx-4bit --max-tokens 512 --temperature 0.0 --prompt "Describe this image." --image <path_to_image>

📄 許可證

本項目採用 Apache-2.0 許可證。