D

Deepseek V3 0324 GGUF

由unsloth開發
DeepSeek-V3-0324 是 DeepSeek 團隊發佈的 3 月更新版本,相比前代在多個基準測試上有顯著提升,支持動態量化版本,適用於本地推理。
下載量 108.44k
發布時間 : 3/25/2025

模型概述

DeepSeek-V3-0324 是一個高性能的大語言模型,支持多種量化版本,適用於本地部署和推理任務。

模型特點

動態量化
支持 1-4 位動態量化版本,相比標準量化顯著提升了精度和效果。
高性能推理
在 MMLU-Pro、GPQA、AIME 和 LiveCodeBench 等基準測試上相比前代有顯著提升。
本地運行支持
支持在 llama.cpp、LMStudio、Open WebUI 等推理框架中運行。

模型能力

文本生成
代碼生成
推理任務

使用案例

代碼生成
代碼補全
生成高質量的代碼片段,適用於開發環境。
生成的代碼質量高且運行良好。
文本推理
複雜問題解答
回答複雜的科學和技術問題。
在 GPQA 和 AIME 等基準測試上表現優異。
AIbase
智啟未來,您的人工智能解決方案智庫
© 2025AIbase