AIbase
ZH
模型选型
标签
多量化选择

# 多量化选择

Pinkpixel Crystal Think V2 GGUF
Apache-2.0
这是一个对PinkPixel的Crystal-Think-V2模型进行的量化处理版本，提供多种量化类型以满足不同硬件和性能需求。
大型语言模型 英语
P
bartowski
128
1
Polaris 4B Preview F32 GGUF
Apache-2.0
Polaris是一种开源的后训练方法，利用强化学习优化和增强模型，提升推理能力。
大型语言模型 Transformers 英语
P
prithivMLmods
765
1
Menlo Jan Nano GGUF
Apache-2.0
基于llama.cpp对Menlo/Jan - nano模型进行量化处理，提供多种量化类型的模型文件，以满足不同硬件和性能需求。
大型语言模型
M
bartowski
190
1
Akhil Theerthala Kuvera 8B V0.1.0 GGUF
MIT
Kuvera-8B是一个专注于金融和个人理财领域的8B参数大语言模型，提供多种量化版本以适应不同硬件需求。
大型语言模型 英语
A
bartowski
793
1
Nvidia AceReason Nemotron 14B GGUF
其他
AceReason-Nemotron-14B 是一个14B参数规模的大型语言模型，提供多种量化版本以适应不同硬件需求。
大型语言模型
N
bartowski
1,772
6
Skywork Skywork OR1 7B GGUF
Skywork-OR1-7B 是一个 7B 参数规模的大语言模型，提供多种量化版本以适应不同硬件需求。
大型语言模型
S
bartowski
634
1
Tesslate Tessa Rust T1 7B GGUF
Apache-2.0
Tessa-Rust-T1-7B的量化版本，使用llama.cpp工具进行量化处理，支持在不同硬件条件下高效运行。
大型语言模型 Transformers 英语
T
bartowski
542
2
Arcee Ai Virtuoso Small V2 GGUF
Apache-2.0
基于llama.cpp对arcee-ai/Virtuoso-Small-v2模型进行量化的版本，提供多种量化类型以满足不同硬件和性能需求。
大型语言模型
A
bartowski
1,976
10
Gemma The Writer Mighty Sword 9B GGUF
Apache-2.0
专为小说、故事创作优化的Gemma2模型，通过融合多个顶尖故事创作模型微调而来，具备更丰富、细腻、有深度的内容生成能力。
文本生成 英语
G
DavidAU
819
16
Bagel 8b V1.0 GGUF
其他
bagel-8b-v1.0的Llamacpp imatrix量化版本，提供多种量化文件以满足不同硬件和性能需求。
大型语言模型
B
bartowski
13.12k
3
Smart Lemon Cookie 7B GGUF
这是FallenMerick/Smart-Lemon-Cookie-7B的静态量化版本，提供多种量化选项，适用于文本生成和角色扮演任务。
大型语言模型 英语
S
mradermacher
142
4
Codellama 7B Python GGUF
CodeLlama 7B Python是Meta开发的专注于Python代码生成的7B参数大语言模型，提供GGUF格式量化版本
大型语言模型 Transformers
C
TheBloke
2,385
57
AIbase
智启未来，您的人工智能解决方案智库
English简体中文繁體中文にほんご
© 2025AIbase