AIbase
ZH
模型选型
标签
多格式量化

# 多格式量化

Qwen3 30B A1.5B High Speed GGUF
基于Qwen 30B-A3B(MOE)微调的高效推理模型，通过减少专家数量实现接近双倍速度提升，支持多种量化格式和40K上下文长度
大型语言模型 Transformers
Q
Mungert
732
1
Llamaestra 3.2 1B Translation GGUF
一个专注于英语和意大利语翻译的1B参数语言模型，提供多种量化版本的GGUF格式文件。
机器翻译 支持多种语言
L
tensorblock
5,028
1
Llama 3.1 1million Ctx Dark Planet V1.01 8B
基于多个高质量8B模型合并优化的Llama-3.1架构大语言模型，支持超长上下文处理
大型语言模型 Transformers
L
DavidAU
93
2
All MiniLM L6 V2 GGUF
Apache-2.0
all-MiniLM-L6-v2是一个小型高效的句子嵌入模型，基于MiniLM架构，适用于句子相似度计算和特征提取任务。
文本嵌入 英语
A
Mungert
1,094
2
Summllama3.2 3B GGUF
SummLlama3.2-3B是基于Llama3架构优化的3.2B参数摘要生成模型，提供多种量化版本以适应不同硬件需求。
大型语言模型
S
tensorblock
95
1
AIbase
智启未来，您的人工智能解决方案智库
English简体中文繁體中文にほんご
© 2025AIbase