Phi 3 Mini 4k Instruct GGUF

🚀 Phi 3 Mini 4K Instruct GGUF

Phi 3 Mini 4K Instruct GGUF是一款轻量级的文本生成模型，基于高质量数据集训练，在多项基准测试中表现出色，为自然语言处理任务提供强大支持。

🚀 快速开始

本模型由 SanctumAI 进行量化。若要反馈意见，请加入我们在 Discord 的社区。

模型创建者：microsoft 原始模型：Phi-3-mini-4k-instruct

✨ 主要特性

模型概述

Phi-3-Mini-4K-Instruct 是一个拥有 38 亿参数的轻量级、先进的开源模型，它使用 Phi-3 数据集进行训练。该数据集包含合成数据和经过筛选的公开网站数据，重点在于高质量和富含推理属性。此模型属于 Phi-3 家族的 Mini 版本，有 4K 和 128K 两种变体，代表其能够支持的上下文长度（以令牌为单位）。

该模型经过了后训练过程，结合了监督微调（supervised fine-tuning）和直接偏好优化（direct preference optimization），以实现指令遵循和安全措施。在针对常识、语言理解、数学、代码、长上下文和逻辑推理的基准测试中，Phi-3 Mini-4K-Instruct 在参数少于 130 亿的模型中展现出了强大且先进的性能。

提示模板

如果您使用的是 Sanctum 应用程序，只需使用 Phi 3 模型预设即可。

提示模板如下：

<|system|>
{system_prompt}.<|end|>
<|user|>
{prompt}<|end|>
<|assistant|>

硬件要求估算

具体各量化版本的信息如下：

📄 许可证

本模型采用 MIT 许可证，许可证链接：https://huggingface.co/microsoft/Phi-3-mini-4k-instruct/resolve/main/LICENSE

⚠️ 免责声明

Sanctum 并非 Sanctum 应用程序“模型”部分中展示的任何模型的创建者、发起者或所有者。每个模型均由第三方创建和提供。Sanctum 不认可、支持、代表或保证其中列出的任何模型的完整性、真实性、准确性或可靠性。您应明白，受支持的模型可能会生成具有冒犯性、有害性、不准确或其他不当内容，或具有欺骗性的内容。每个模型均由发起该模型的个人或实体承担全部责任。Sanctum 可能不会监控或控制所支持的模型，也无法且不会对任何此类模型负责。Sanctum 对模型的准确性、可靠性或益处不做任何保证或担保。此外，Sanctum 不保证模型会满足您的要求，保证其安全性、不间断性或在任何时间或地点可用，也不保证无错误、无病毒，或保证会纠正任何错误等。您将对因使用或访问模型、下载任何模型或使用 Sanctum 提供或通过 Sanctum 提供的任何其他模型而导致的任何损害承担全部责任。