Llama 3.2 11B Vision Instruct Abliterated 4 Bit

🚀 mlx-community/Llama-3.2-11B-Vision-Instruct-abliterated-4-bit

このプロジェクトは、モデルをMLX形式に変換するもので、特定の形式でのモデルの使用問題を解決し、ユーザーがこの形式に基づいて開発とアプリケーションを行うのを容易にします。

🚀 クイックスタート

このモデルは、mlx - vlmバージョン 0.1.4 を使用して、huihui-ai/Llama-3.2-11B-Vision-Instruct-abliterated からMLX形式に変換されました。このモデルの詳細情報については、元のモデルカード を参照してください。

📦 インストール

必要なライブラリをインストールするには、以下のコマンドを使用します。

pip install -U mlx-vlm

💻 使用例

基本的な使用法

モデルの推論を行うには、以下のコマンドを使用します。

python -m mlx_vlm.generate --model mlx-community/Llama-3.2-11B-Vision-Instruct-abliterated-4-bit --max-tokens 100 --temp 0.0

📄 ライセンス

このプロジェクトは、llama3.2ライセンスを使用しています。

📚 ドキュメント

サポート言語

• 英語（en）
• ドイツ語（de）
• フランス語（fr）
• イタリア語（it）
• ポルトガル語（pt）
• ヒンディー語（hi）
• スペイン語（es）
• タイ語（th）

ライブラリ名

transformers

タスクタイプ

image - text - to - text

ベースモデル

meta - llama/Llama - 3.2 - 11B - Vision - Instruct

タグ

• facebook
• meta
• pytorch
• llama
• llama - 3
• abliterated
• uncensored
• mlx