# 低資源量化部署

SpaceThinker-Qwen2.5VL-3B 是一個多模態視覺語言模型，專注於空間推理和視覺問答任務。

Qwen2.5-VL-7B-Captioner-Relaxed 是一個多模態視覺語言模型，基於 Qwen2.5 架構，專注於圖像到文本的生成任務。

ColBERTv2.0的靜態量化版本，基於lightonai/colbertv2.0模型，提供多種量化選項

EraX-VL-2B-V1.5是一個多模態模型，支持越南語、英語和中文，具備圖像轉文本和圖文轉文本的能力。

Llama 3.2是由Meta開發的多語言大語言模型系列，包含1B和3B規模的預訓練及指令調優生成模型，針對多語言對話場景優化。

這是一個基於Llama-3.1-8B-Instuct-Uz模型的靜態量化版本，支持烏茲別克語和英語的文本生成任務。

BioMistral-7B-GGUF 是基於 BioMistral/BioMistral-7B 的 GGUF 格式量化版本，專注於醫學和生物學領域的多語言文本生成任務。