Deepseek R1 Bf16

🚀 DeepSeek-R1

DeepSeek-R1是第一代推理模型，在数学、代码和推理任务上表现出色，性能可与OpenAI-o1相媲美。项目开源了多个模型及蒸馏模型，为研究社区提供支持。

🚀 快速开始

你可以在DeepSeek的官方网站 chat.deepseek.com 上与DeepSeek-R1进行对话，并开启“DeepThink”按钮。同时，我们在DeepSeek平台 platform.deepseek.com 上提供了与OpenAI兼容的API。

本地运行

DeepSeek-R1模型

有关在本地运行DeepSeek-R1的更多信息，请访问 DeepSeek-V3 仓库。

DeepSeek-R1-Distill模型

DeepSeek-R1-Distill模型的使用方式与Qwen或Llama模型相同。例如，你可以使用 vLLM 轻松启动服务：

vllm serve deepseek-ai/DeepSeek-R1-Distill-Qwen-32B --tensor-parallel-size 2 --max-model-len 32768 --enforce-eager

⚠️ 重要提示

运行这些模型时，建议将温度设置在0.5到0.7之间，否则可能会出现无限重复或输出不连贯的问题。

✨ 主要特性

模型介绍

我们推出了第一代推理模型DeepSeek-R1-Zero和DeepSeek-R1。DeepSeek-R1-Zero通过大规模强化学习（RL）训练，无需监督微调（SFT）作为初步步骤，在推理方面表现出色。然而，它也存在无尽重复、可读性差和语言混合等问题。为解决这些问题并进一步提高推理性能，我们引入了DeepSeek-R1，它在RL之前加入了冷启动数据。DeepSeek-R1在数学、代码和推理任务上的性能与OpenAI-o1相当。为支持研究社区，我们开源了DeepSeek-R1-Zero、DeepSeek-R1以及基于Llama和Qwen从DeepSeek-R1蒸馏得到的六个密集模型。其中，DeepSeek-R1-Distill-Qwen-32B在各种基准测试中优于OpenAI-o1-mini，为密集模型取得了新的最优结果。

模型训练与蒸馏

后训练：在基础模型上进行大规模强化学习

• 我们直接对基础模型应用强化学习（RL），无需监督微调（SFT）作为初步步骤。这种方法使模型能够探索思维链（CoT）来解决复杂问题，从而开发出DeepSeek-R1-Zero。DeepSeek-R1-Zero展示了自我验证、反思和生成长思维链等能力，为研究社区树立了重要里程碑。值得注意的是，这是首次通过纯RL激励大语言模型（LLM）的推理能力，而无需SFT的公开研究，为该领域的未来发展铺平了道路。
• 我们介绍了开发DeepSeek-R1的管道。该管道包括两个RL阶段，旨在发现更好的推理模式并与人类偏好对齐，以及两个SFT阶段，作为模型推理和非推理能力的种子。我们相信这个管道将通过创建更好的模型使行业受益。

蒸馏：小模型也能强大

我们证明了可以将大模型的推理模式蒸馏到小模型中，与在小模型上通过RL发现的推理模式相比，性能更优。开源的DeepSeek-R1及其API将有助于研究社区未来蒸馏出更好的小模型。我们使用DeepSeek-R1生成的推理数据对研究社区广泛使用的几个密集模型进行了微调。评估结果表明，蒸馏后的小密集模型在基准测试中表现出色。我们向社区开源了基于Qwen2.5和Llama3系列的1.5B、7B、8B、14B、32B和70B的蒸馏检查点。

📦 模型下载

DeepSeek-R1模型

DeepSeek-R1-Zero和DeepSeek-R1基于DeepSeek-V3-Base进行训练。有关模型架构的更多详细信息，请参考 DeepSeek-V3 仓库。

DeepSeek-R1-Distill模型

DeepSeek-R1-Distill模型基于开源模型进行微调，使用DeepSeek-R1生成的样本。我们对其配置和分词器进行了轻微修改，请使用我们的设置来运行这些模型。

📚 详细文档

评估结果

DeepSeek-R1评估

对于我们所有的模型，最大生成长度设置为32,768个标记。对于需要采样的基准测试，我们使用温度为0.6、top-p值为0.95，并为每个查询生成64个响应来估计pass@1。

蒸馏模型评估

📄 许可证

此代码仓库和模型权重遵循 MIT许可证。DeepSeek-R1系列支持商业使用，允许进行任何修改和衍生作品，包括但不限于蒸馏以训练其他大语言模型。请注意：

• DeepSeek-R1-Distill-Qwen-1.5B、DeepSeek-R1-Distill-Qwen-7B、DeepSeek-R1-Distill-Qwen-14B和DeepSeek-R1-Distill-Qwen-32B源自 Qwen-2.5系列，最初遵循 Apache 2.0许可证，现在使用DeepSeek-R1精心策划的800k样本进行微调。
• DeepSeek-R1-Distill-Llama-8B源自Llama3.1-8B-Base，最初遵循 llama3.1许可证。
• DeepSeek-R1-Distill-Llama-70B源自Llama3.3-70B-Instruct，最初遵循 llama3.3许可证。

📞 联系我们

如果您有任何问题，请提出问题或通过 service@deepseek.com 联系我们。