# 高效本地部署

Magistral-Small-2506是基于Mistral Small 3.1构建的小型高效推理模型，拥有240亿参数，支持多语言和长链推理。

Gemma 3 12B IT MLX 4Bit 是基于 unsloth/gemma-3-12b-it 转换而来的 MLX 格式模型，适用于苹果芯片设备。