# 輕量級指令微調

Phi-3.5-mini-instruct是一款輕量級、先進的開源模型，基於Phi-3使用的數據集構建，專注於高質量、富含推理的數據。支持128K令牌上下文長度，具有強大的多語言能力和長上下文處理能力。

SolaraV2是原始Solara模型的升級版，它是一個輕量級、經過指令微調的語言模型，由高中生開發，適用於日常對話和教育任務。

Doge 160M 是一個基於動態掩碼注意力機制的小型語言模型，採用監督微調(SFT)和直接偏好優化(DPO)訓練而成。

該模型是通過ggml.ai的GGUF-my-repo空間，使用llama.cpp從microsoft/Phi-3-mini-4k-instruct轉換而來的GGUF格式模型。

Phi-3 Mini 是一款輕量級、前沿的開源模型，專注於高質量、高推理密度的數據，支持4K上下文長度。

Gemma是谷歌開發的輕量級開源大語言模型，提供20億參數版本，適用於文本生成任務。