Stablelm Zephyr 3b GGUF

🚀 StableLM Zephyr 3B GGUF

本项目包含Stability AI的StableLM Zephyr 3B模型的GGUF格式文件。StableLM Zephyr 3B是一个具有30亿参数的指令微调模型，受HugginFaceH4的Zephyr 7B训练流程启发，该模型在多种公开可用数据集和使用直接偏好优化（DPO）生成的合成数据集上进行训练，并基于MT Bench和Alpaca Benchmark进行评估。

🚀 快速开始

模型信息

什么是GGUF？

GGUF是一种用于表示AI模型的文件格式。它是该格式的第三个版本，由llama.cpp团队于2023年8月21日推出。它是GGML的替代品，目前llama.cpp已不再支持GGML。本模型使用llama.cpp b1960 (26d6076)进行转换。

提示模板：Zephyr

<|system|>
{{system_message}}<|endoftext|>
<|user|>
{{prompt}}<|endoftext|>
<|assistant|>

📦 下载与运行

你可以在iPhone、iPad和Mac上使用cnvrs下载并运行本模型！

cnvrs是在你的设备上运行私有本地AI的最佳应用：

• 创建并保存带有自定义系统提示和温度设置的角色
• 下载并试验你可以在HuggingFace上找到的任何GGUF模型！
• 用自定义主题颜色打造属于你自己的风格
• 由Metal ⚡️ 和 Llama.cpp 提供支持，在响应流式传输时带有触觉反馈！
• 今天就亲自在 Testflight 上试用！
• 关注 cnvrs的Twitter 以获取最新信息

📚 详细文档

原始模型评估