DeepSeek-R1-Distill-Qwen-14B开源大语言模型 - 多GGUF量化版助力性能提升

Deepseek Ai DeepSeek R1 Distill Qwen 14B GGUF

由 featherless-ai-quants 开发

DeepSeek-R1-Distill-Qwen-14B 是一个经过优化的14B参数规模的大语言模型，由DeepSeek AI发布，基于Qwen架构蒸馏而来，提供多种GGUF量化版本以提升性能。

下载量 237

发布时间 : 6/4/2025

模型简介

该模型是一个经过蒸馏优化的大语言模型，支持文本生成、问答等多种任务，适用于需要高效推理的场景。

高效量化

提供多种GGUF量化版本，显著降低模型运行时的资源需求。

高性能推理

经过蒸馏优化，在保持较高性能的同时减少计算开销。

广泛兼容

支持多种量化类型，适应不同硬件和性能需求。

文本生成

问答

语言理解

内容生成

自动文本创作

生成文章、故事或其他文本内容。

智能问答

知识问答

回答用户提出的各种问题。

量化类型	文件	大小
IQ4_XS	deepseek-ai-DeepSeek-R1-Distill-Qwen-14B-IQ4_XS.gguf	7806.96 MB
Q2_K	deepseek-ai-DeepSeek-R1-Distill-Qwen-14B-Q2_K.gguf	5503.17 MB
Q3_K_L	deepseek-ai-DeepSeek-R1-Distill-Qwen-14B-Q3_K_L.gguf	7557.65 MB
Q3_K_M	deepseek-ai-DeepSeek-R1-Distill-Qwen-14B-Q3_K_M.gguf	6999.21 MB
Q3_K_S	deepseek-ai-DeepSeek-R1-Distill-Qwen-14B-Q3_K_S.gguf	6351.09 MB
Q4_K_M	deepseek-ai-DeepSeek-R1-Distill-Qwen-14B-Q4_K_M.gguf	8571.73 MB
Q4_K_S	deepseek-ai-DeepSeek-R1-Distill-Qwen-14B-Q4_K_S.gguf	8176.26 MB
Q5_K_M	deepseek-ai-DeepSeek-R1-Distill-Qwen-14B-Q5_K_M.gguf	10022.04 MB
Q5_K_S	deepseek-ai-DeepSeek-R1-Distill-Qwen-14B-Q5_K_S.gguf	9790.95 MB
Q6_K	deepseek-ai-DeepSeek-R1-Distill-Qwen-14B-Q6_K.gguf	11563.00 MB
Q8_0	deepseek-ai-DeepSeek-R1-Distill-Qwen-14B-Q8_0.gguf	14974.21 MB