Deepseek R1 Llama 8B F32 GGUF

🚀 DeepSeek-R1-Llama-8B-F32-GGUF

DeepSeek-R1-Llama-8B-F32-GGUF是DeepSeek-R1-Distill-Llama-8B的量化版本，它直接在基礎模型上使用強化學習（RL）進行訓練，無需將監督微調（SFT）作為初步步驟。這種方法使模型能夠探索思維鏈（CoT）推理來解決複雜問題，從而推動了DeepSeek-R1-Zero的發展。DeepSeek-R1-Zero展現出自我驗證、反思和生成擴展思維鏈等能力。

📦 安裝指南

文檔未提及安裝步驟，暫不展示。

💻 使用示例

文檔未提供代碼示例，暫不展示。

📚 詳細文檔

模型文件

量化使用方法

（按大小排序，不一定代表質量。IQ量化通常比類似大小的非IQ量化更可取）

以下是ikawrakow提供的一個方便的圖表，用於比較一些低質量的量化類型（數值越低越好）：

🔧 技術細節

文檔未提供足夠的技術實現細節，暫不展示。

📄 許可證

本項目採用Apache-2.0許可證。