# 低精度推論

MedGemma-4B-IT-8bitはGoogleのMedGemmaモデルをMLX形式に変換したバージョンで、医療分野のビジュアル言語タスクに特化しています。

Devstral-Small-2505-bf16は、MistralAIのDevstral-Small-2505モデルを変換したMLX形式のモデルで、多言語処理タスクをサポートします。

これはQwen2.5-VL-3B-Instructモデルを基にした8ビット量子化バージョンで、MLXフレームワーク向けに最適化されており、画像テキスト生成タスクをサポートします。

Stable Diffusion XLをベースにしたControlNetモデルで、OpenPoseによる姿勢制御に特化し、特定の人体姿勢に合致した画像を生成します。

これはBAAI/bge-reranker-v2-gemmaモデルのGGUF形式変換バージョンで、llama.cppフレームワークに適しており、多言語テキスト分類タスクをサポートします。

BLIP-2は画像エンコーダーと大規模言語モデルを組み合わせた視覚言語事前学習モデルで、画像からテキストを生成するタスクに使用されます。

これはIntel® Neural Compressorを使用して学習後に静的量子化されたINT8 PyTorchモデルで、GoogleのViTモデルを基にファインチューニングされており、高い精度を維持しながら大幅にモデルサイズを削減しています。