DeepSeek-R1-Distill-Qwen-14B開源大語言模型 - 多GGUF量化版助力性能提升

Deepseek Ai DeepSeek R1 Distill Qwen 14B GGUF

由featherless-ai-quants開發

DeepSeek-R1-Distill-Qwen-14B 是一個經過優化的14B參數規模的大語言模型，由DeepSeek AI發佈，基於Qwen架構蒸餾而來，提供多種GGUF量化版本以提升性能。

下載量 237

發布時間 : 6/4/2025

模型概述

該模型是一個經過蒸餾優化的大語言模型，支持文本生成、問答等多種任務，適用於需要高效推理的場景。

高效量化

提供多種GGUF量化版本，顯著降低模型運行時的資源需求。

高性能推理

經過蒸餾優化，在保持較高性能的同時減少計算開銷。

廣泛兼容

支持多種量化類型，適應不同硬件和性能需求。

文本生成

問答

語言理解

內容生成

自動文本創作

生成文章、故事或其他文本內容。

智能問答

知識問答

回答用戶提出的各種問題。

量化類型	文件	大小
IQ4_XS	deepseek-ai-DeepSeek-R1-Distill-Qwen-14B-IQ4_XS.gguf	7806.96 MB
Q2_K	deepseek-ai-DeepSeek-R1-Distill-Qwen-14B-Q2_K.gguf	5503.17 MB
Q3_K_L	deepseek-ai-DeepSeek-R1-Distill-Qwen-14B-Q3_K_L.gguf	7557.65 MB
Q3_K_M	deepseek-ai-DeepSeek-R1-Distill-Qwen-14B-Q3_K_M.gguf	6999.21 MB
Q3_K_S	deepseek-ai-DeepSeek-R1-Distill-Qwen-14B-Q3_K_S.gguf	6351.09 MB
Q4_K_M	deepseek-ai-DeepSeek-R1-Distill-Qwen-14B-Q4_K_M.gguf	8571.73 MB
Q4_K_S	deepseek-ai-DeepSeek-R1-Distill-Qwen-14B-Q4_K_S.gguf	8176.26 MB
Q5_K_M	deepseek-ai-DeepSeek-R1-Distill-Qwen-14B-Q5_K_M.gguf	10022.04 MB
Q5_K_S	deepseek-ai-DeepSeek-R1-Distill-Qwen-14B-Q5_K_S.gguf	9790.95 MB
Q6_K	deepseek-ai-DeepSeek-R1-Distill-Qwen-14B-Q6_K.gguf	11563.00 MB
Q8_0	deepseek-ai-DeepSeek-R1-Distill-Qwen-14B-Q8_0.gguf	14974.21 MB