# 高效本地部署

Magistral-Small-2506是基於Mistral Small 3.1構建的小型高效推理模型，擁有240億參數，支持多語言和長鏈推理。

Gemma 3 12B IT MLX 4Bit 是基於 unsloth/gemma-3-12b-it 轉換而來的 MLX 格式模型，適用於蘋果芯片設備。