Llama 3.2 11B Vision Instruct Abliterated 4 Bit

🚀 mlx-community/Llama-3.2-11B-Vision-Instruct-abliterated-4-bit

本项目是将模型转换为MLX格式，解决了模型在特定格式下的使用问题，方便用户基于该格式进行开发和应用。

🚀 快速开始

此模型是使用mlx - vlm版本 0.1.4 从huihui-ai/Llama-3.2-11B-Vision-Instruct-abliterated转换为MLX格式的。有关该模型的更多详细信息，请参考原始模型卡片。

📦 安装指南

使用以下命令安装所需的库：

pip install -U mlx-vlm

💻 使用示例

基础用法

使用以下命令进行模型推理：

python -m mlx_vlm.generate --model mlx-community/Llama-3.2-11B-Vision-Instruct-abliterated-4-bit --max-tokens 100 --temp 0.0

📄 许可证

本项目使用的许可证为llama3.2。

📚 详细文档

支持语言

• 英语（en）
• 德语（de）
• 法语（fr）
• 意大利语（it）
• 葡萄牙语（pt）
• 印地语（hi）
• 西班牙语（es）
• 泰语（th）

库名称

transformers

任务类型

image - text - to - text

基础模型

meta - llama/Llama - 3.2 - 11B - Vision - Instruct

标签

• facebook
• meta
• pytorch
• llama
• llama - 3
• abliterated
• uncensored
• mlx