# 低精度推理

Devstral-Small-2505-bf16 是一個基於 MistralAI 的 Devstral-Small-2505 模型轉換而來的 MLX 格式模型，支持多種語言處理任務。

MedGemma-4B-IT-8bit是Google MedGemma模型的MLX格式轉換版本，專注於醫療領域的視覺語言任務。

這是一個基於Qwen2.5-VL-3B-Instruct模型的8位量化版本，專為MLX框架優化，支持圖像文本生成任務。

基於Stable Diffusion XL的ControlNet模型，專注於OpenPose姿態控制，用於生成符合特定人體姿態的圖像。

這是BAAI/bge-reranker-v2-gemma模型的GGUF格式轉換版本，適用於llama.cpp框架，支持多語言文本分類任務。

BLIP-2是一個視覺語言預訓練模型，結合了圖像編碼器和大型語言模型，用於圖像到文本的生成任務。

這是一個使用Intel® Neural Compressor進行訓練後靜態量化的INT8 PyTorch模型，基於Google的ViT模型微調而來，在保持較高準確率的同時大幅減小模型體積。