Llama 3.2 11B Vision Instruct Abliterated 4 Bit

🚀 mlx-community/Llama-3.2-11B-Vision-Instruct-abliterated-4-bit

本項目是將模型轉換為MLX格式，解決了模型在特定格式下的使用問題，方便用戶基於該格式進行開發和應用。

🚀 快速開始

此模型是使用mlx - vlm版本 0.1.4 從huihui-ai/Llama-3.2-11B-Vision-Instruct-abliterated轉換為MLX格式的。有關該模型的更多詳細信息，請參考原始模型卡片。

📦 安裝指南

使用以下命令安裝所需的庫：

pip install -U mlx-vlm

💻 使用示例

基礎用法

使用以下命令進行模型推理：

python -m mlx_vlm.generate --model mlx-community/Llama-3.2-11B-Vision-Instruct-abliterated-4-bit --max-tokens 100 --temp 0.0

📄 許可證

本項目使用的許可證為llama3.2。

📚 詳細文檔

支持語言

• 英語（en）
• 德語（de）
• 法語（fr）
• 意大利語（it）
• 葡萄牙語（pt）
• 印地語（hi）
• 西班牙語（es）
• 泰語（th）

庫名稱

transformers

任務類型

image - text - to - text

基礎模型

meta - llama/Llama - 3.2 - 11B - Vision - Instruct

標籤

• facebook
• meta
• pytorch
• llama
• llama - 3
• abliterated
• uncensored
• mlx