Phi 3 Mini 4k Instruct GGUF

🚀 Phi 3 Mini 4K Instruct GGUF

Phi 3 Mini 4K Instruct GGUF是一款輕量級的文本生成模型，基於高質量數據集訓練，在多項基準測試中表現出色，為自然語言處理任務提供強大支持。

🚀 快速開始

本模型由 SanctumAI 進行量化。若要反饋意見，請加入我們在 Discord 的社區。

模型創建者：microsoft 原始模型：Phi-3-mini-4k-instruct

✨ 主要特性

模型概述

Phi-3-Mini-4K-Instruct 是一個擁有 38 億參數的輕量級、先進的開源模型，它使用 Phi-3 數據集進行訓練。該數據集包含合成數據和經過篩選的公開網站數據，重點在於高質量和富含推理屬性。此模型屬於 Phi-3 家族的 Mini 版本，有 4K 和 128K 兩種變體，代表其能夠支持的上下文長度（以令牌為單位）。

該模型經過了後訓練過程，結合了監督微調（supervised fine-tuning）和直接偏好優化（direct preference optimization），以實現指令遵循和安全措施。在針對常識、語言理解、數學、代碼、長上下文和邏輯推理的基準測試中，Phi-3 Mini-4K-Instruct 在參數少於 130 億的模型中展現出了強大且先進的性能。

提示模板

如果您使用的是 Sanctum 應用程序，只需使用 Phi 3 模型預設即可。

提示模板如下：

<|system|>
{system_prompt}.<|end|>
<|user|>
{prompt}<|end|>
<|assistant|>

硬件要求估算

具體各量化版本的信息如下：

📄 許可證

本模型採用 MIT 許可證，許可證鏈接：https://huggingface.co/microsoft/Phi-3-mini-4k-instruct/resolve/main/LICENSE

⚠️ 免責聲明

Sanctum 並非 Sanctum 應用程序“模型”部分中展示的任何模型的創建者、發起者或所有者。每個模型均由第三方創建和提供。Sanctum 不認可、支持、代表或保證其中列出的任何模型的完整性、真實性、準確性或可靠性。您應明白，受支持的模型可能會生成具有冒犯性、有害性、不準確或其他不當內容，或具有欺騙性的內容。每個模型均由發起該模型的個人或實體承擔全部責任。Sanctum 可能不會監控或控制所支持的模型，也無法且不會對任何此類模型負責。Sanctum 對模型的準確性、可靠性或益處不做任何保證或擔保。此外，Sanctum 不保證模型會滿足您的要求，保證其安全性、不間斷性或在任何時間或地點可用，也不保證無錯誤、無病毒，或保證會糾正任何錯誤等。您將對因使用或訪問模型、下載任何模型或使用 Sanctum 提供或通過 Sanctum 提供的任何其他模型而導致的任何損害承擔全部責任。