AIbase
ZH
模型选型
标签
大模型量化

# 大模型量化

Skywork Skywork SWE 32B GGUF
Apache-2.0
Skywork-SWE-32B是一个32B参数的大语言模型，经过Llamacpp imatrix量化，可在资源受限环境下高效运行。
大型语言模型
S
bartowski
921
2
Qwen.qwen3 Reranker 4B GGUF
Qwen3-Reranker-4B的量化版本，旨在降低资源消耗同时保持性能
大型语言模型
Q
DevQuasar
1,730
1
Google.gemma 3 27b It GGUF
基于谷歌Gemma-3-27b-it模型的量化版本，专注于图像文本转文本任务，致力于知识普及化
大型语言模型
G
DevQuasar
123
0
Gemma 3 27b It GGUF
Gemma-3-27b-it是Google发布的27B参数规模的量化版本大语言模型，专注于图像文本转换任务。
大型语言模型 Transformers
G
gaianet
2,047
0
Huihui Ai.deepseek R1 Distill Qwen 32B Abliterated GGUF
这是一个量化版本的大语言模型，旨在让知识更易于获取和使用。
大型语言模型
H
DevQuasar
572
3
Llama 3.1 Nemotron 70B Instruct AWQ INT4
NVIDIA定制的70B参数大语言模型，通过AWQ Int4量化优化，在多个自动对齐基准测试中表现优异
大型语言模型 Transformers 支持多种语言
L
joshmiller656
1,591
3
Wizardcoder Python 13B V1.0 GPTQ
WizardCoder Python 13B V1.0是由WizardLM开发的大语言模型，专注于Python代码生成任务，基于llama2架构，在HumanEval基准测试中表现优异。
大型语言模型 Transformers
W
TheBloke
309
76
AIbase
智启未来，您的人工智能解决方案智库
English简体中文繁體中文にほんご
© 2025AIbase