Q

Qwen Qwen3 30B A3B GGUF

由bartowski開發
基於Qwen/Qwen3-30B-A3B的量化版本,使用llama.cpp進行多種精度量化,適用於文本生成任務。
下載量 79.34k
發布時間 : 4/28/2025

模型概述

這是一個30B參數規模的大語言模型量化版本,支持多種量化精度選擇,適用於不同硬件環境下的高效推理。

模型特點

多種量化選項
提供從Q8_0到IQ2_XXS共20種不同量化精度的模型文件,適應不同硬件需求
imatrix優化
使用改進的imatrix數據集進行量化,提高量化後的模型質量
廣泛兼容性
支持LM Studio、llama.cpp及基於llama.cpp的各種項目運行
嵌入優化
部分量化版本中嵌入和輸出權重使用Q8_0量化,保持關鍵部分精度

模型能力

文本生成
對話系統
內容創作

使用案例

對話系統
智能助手
可用於構建智能對話助手
內容生成
文本創作
可用於文章、故事等文本內容生成
AIbase
智啟未來,您的人工智能解決方案智庫
© 2025AIbase