# 低精度高效推理

這是一個基於Mistral-Small-3.2-24B-Instruct-2506轉換的MLX格式模型，適用於指令跟隨任務。

InternVL3-8B-6bit 是一個基於 MLX 格式轉換的視覺語言模型，支持多語言圖像文本到文本的任務。

SpaceThinker-Qwen2.5VL-3B是一個3B參數的多模態視覺語言模型，專注於空間推理和視覺問答任務。

Llama 4系列是Meta開發的多模態AI模型，支持文本與圖像交互，採用混合專家架構(MoE)，在文本和圖像理解方面具有行業領先性能。

DeepSeek-R1是由Unsloth優化的1.58-bit動態量化大語言模型，採用MoE架構，支持英語任務處理

SAM 2.1 Tiny 是 Facebook AI Research (FAIR) 推出的輕量級圖像與視頻通用分割模型，支持基於提示的可控視覺分割。

moondream2是一款小型視覺語言模型，專為在邊緣設備上高效運行而設計，通過llamafile格式提供便捷部署。

這是一個專注於代碼生成和應用程序開發的合併模型，基於多個高質量模型融合而成

阿里雲研發的70億參數規模大語言模型，基於Transformer架構，支持中英雙語和代碼處理，具備多輪對話能力。

這是一個基於穩定擴散技術的文本生成圖像模型，使用Dreambooth方法訓練。