Llama 3.1 Nemotron Nano 4B V1.1 GGUF

🚀 英伟达Llama 3.1 Nemotron Nano 4B v1.1社区模型

该模型入选了 LM Studio 社区模型亮点计划，此计划旨在展示社区中新颖且值得关注的模型。快来 Discord 参与讨论吧！

模型信息

模型创建者：nvidia
原始模型：Llama-3.1-Nemotron-Nano-4B-v1.1
GGUF 量化：由 bartowski 基于 llama.cpp 版本 b5432 提供

🔧 技术细节

• 支持 128k 令牌的上下文长度。
• 由 Llama 3.1 8B 经过剪枝和蒸馏创建而成。
• 针对推理、人类对话偏好以及诸如 RAG 和工具调用等任务进行了调优。

🙏 特别感谢

特别感谢 Georgi Gerganov 以及整个 llama.cpp 团队，是他们让这一切成为可能。

⚠️ 免责声明

LM Studio 并非社区模型计划中任何模型的创建者、发起者或所有者。每个社区模型均由第三方创建和提供。LM Studio 不认可、支持、代表或保证任何社区模型的完整性、真实性、准确性或可靠性。您应明白，社区模型可能会生成具有冒犯性、有害性、不准确或其他不当或欺骗性的内容。每个社区模型的唯一责任方是发起该模型的个人或实体。LM Studio 可能不会监控或控制社区模型，并且不能也不会对任何此类模型承担责任。LM Studio 不承担关于社区模型的准确性、可靠性或益处的所有保证或担保。此外，LM Studio 不保证社区模型将满足您的要求，保证其安全性、不间断性或在任何时间或地点可用，或保证无错误、无病毒，或保证任何错误将得到纠正等。您将对因使用或访问社区模型、下载任何社区模型或使用 LM Studio 提供或通过 LM Studio 提供的任何其他社区模型而导致的任何损害承担全部责任。