DeepSeek-R1-Distill-Qwen-14Bオープンソース大規模言語モデル - 複数のGGUF量子化版が性能向上を支援

Deepseek Ai DeepSeek R1 Distill Qwen 14B GGUF

featherless-ai-quantsによって開発

DeepSeek-R1-Distill-Qwen-14Bは、14Bパラメータ規模の最適化された大規模言語モデルで、DeepSeek AIによってリリースされ、Qwenアーキテクチャに基づいて蒸留され、性能向上のために複数のGGUF量子化バージョンを提供します。

ダウンロード数 237

リリース時間 : 6/4/2025

モデル概要

このモデルは蒸留最適化された大規模言語モデルで、テキスト生成、質問応答などの様々なタスクをサポートし、高効率な推論が必要なシーンに適しています。

高効率量子化

複数のGGUF量子化バージョンを提供し、モデル実行時のリソース要件を大幅に削減します。

高性能推論

蒸留最適化により、高い性能を維持しながら計算コストを削減します。

広範な互換性

複数の量子化タイプをサポートし、異なるハードウェアと性能要件に適応します。

テキスト生成

質問応答

言語理解

コンテンツ生成

自動テキスト創作

記事、物語またはその他のテキストコンテンツを生成します。

スマート質問応答

知識質問応答

ユーザーが提出した様々な質問に回答します。

量子化タイプ	ファイル	サイズ
IQ4_XS	deepseek-ai-DeepSeek-R1-Distill-Qwen-14B-IQ4_XS.gguf	7806.96 MB
Q2_K	deepseek-ai-DeepSeek-R1-Distill-Qwen-14B-Q2_K.gguf	5503.17 MB
Q3_K_L	deepseek-ai-DeepSeek-R1-Distill-Qwen-14B-Q3_K_L.gguf	7557.65 MB
Q3_K_M	deepseek-ai-DeepSeek-R1-Distill-Qwen-14B-Q3_K_M.gguf	6999.21 MB
Q3_K_S	deepseek-ai-DeepSeek-R1-Distill-Qwen-14B-Q3_K_S.gguf	6351.09 MB
Q4_K_M	deepseek-ai-DeepSeek-R1-Distill-Qwen-14B-Q4_K_M.gguf	8571.73 MB
Q4_K_S	deepseek-ai-DeepSeek-R1-Distill-Qwen-14B-Q4_K_S.gguf	8176.26 MB
Q5_K_M	deepseek-ai-DeepSeek-R1-Distill-Qwen-14B-Q5_K_M.gguf	10022.04 MB
Q5_K_S	deepseek-ai-DeepSeek-R1-Distill-Qwen-14B-Q5_K_S.gguf	9790.95 MB
Q6_K	deepseek-ai-DeepSeek-R1-Distill-Qwen-14B-Q6_K.gguf	11563.00 MB
Q8_0	deepseek-ai-DeepSeek-R1-Distill-Qwen-14B-Q8_0.gguf	14974.21 MB