Stablelm Zephyr 3b GGUF

🚀 StableLM Zephyr 3B GGUF

本項目包含Stability AI的StableLM Zephyr 3B模型的GGUF格式文件。StableLM Zephyr 3B是一個具有30億參數的指令微調模型，受HugginFaceH4的Zephyr 7B訓練流程啟發，該模型在多種公開可用數據集和使用直接偏好優化（DPO）生成的合成數據集上進行訓練，並基於MT Bench和Alpaca Benchmark進行評估。

🚀 快速開始

模型信息

什麼是GGUF？

GGUF是一種用於表示AI模型的文件格式。它是該格式的第三個版本，由llama.cpp團隊於2023年8月21日推出。它是GGML的替代品，目前llama.cpp已不再支持GGML。本模型使用llama.cpp b1960 (26d6076)進行轉換。

提示模板：Zephyr

<|system|>
{{system_message}}<|endoftext|>
<|user|>
{{prompt}}<|endoftext|>
<|assistant|>

📦 下載與運行

你可以在iPhone、iPad和Mac上使用cnvrs下載並運行本模型！

cnvrs是在你的設備上運行私有本地AI的最佳應用：

• 創建並保存帶有自定義系統提示和溫度設置的角色
• 下載並試驗你可以在HuggingFace上找到的任何GGUF模型！
• 用自定義主題顏色打造屬於你自己的風格
• 由Metal ⚡️ 和 Llama.cpp 提供支持，在響應流式傳輸時帶有觸覺反饋！
• 今天就親自在 Testflight 上試用！
• 關注 cnvrs的Twitter 以獲取最新信息

📚 詳細文檔

原始模型評估