Llama 3.2 3B Instruct GGUF

🚀 Llama 3.2 3B Instruct GGUF

该模型为多语言大语言模型，经优化适用于多语言对话场景，在行业基准测试中表现出色。

此模型由 SanctumAI 进行量化。如需反馈，请加入我们在 Discord 的社区。

模型创建者：meta-llama
原始模型：Llama-3.2-3B-Instruct

🚀 快速开始

模型概述

Meta Llama 3.2 系列多语言大语言模型（LLMs）是一系列预训练和指令微调的生成式模型，有 1B 和 3B 两种规模（文本输入/文本输出）。Llama 3.2 指令微调的纯文本模型针对多语言对话用例进行了优化，包括智能检索和摘要任务。在常见的行业基准测试中，它们的表现优于许多现有的开源和闭源聊天模型。

提示模板

如果您使用的是 Sanctum 应用程序，只需使用 Llama 3 模型预设即可。

提示模板如下：

<|begin_of_text|><|start_header_id|>system<|end_header_id|>

{system_prompt}<|eot_id|><|start_header_id|>user<|end_header_id|>

{prompt}<|eot_id|><|start_header_id|>assistant<|end_header_id|>

📚 详细文档

硬件要求预估

免责声明

Sanctum 并非 Sanctum 应用程序“模型”部分展示的任何模型的创建者、发起者或所有者。每个模型均由第三方创建和提供。Sanctum 不认可、支持、代表或保证其中所列任何模型的完整性、真实性、准确性或可靠性。您应明白，受支持的模型可能会生成具有冒犯性、有害性、不准确或其他不当内容，或具有欺骗性的内容。每个模型的唯一责任由发起该模型的个人或实体承担。Sanctum 可能不会监控或控制受支持的模型，并且不能也不会对任何此类模型承担责任。Sanctum 对模型的准确性、可靠性或益处不做任何保证。此外，Sanctum 不保证模型将满足您的要求，保证其安全性、不间断性或在任何时间或地点可用，或保证无错误、无病毒，或保证任何错误将得到纠正等。您将独自承担因使用或访问模型、下载任何模型或使用 Sanctum 提供或通过 Sanctum 提供的任何其他模型而导致的任何损害的责任。

📄 许可证

此模型的许可证为 llama3.2。

模型信息