Gama 12b I1 GGUF
Gama-12B的量化版本,提供多种量化类型的文件,适用于文本生成任务,支持英语和葡萄牙语。
大型语言模型
Transformers 支持多种语言

G
mradermacher
559
1
Gama 12b GGUF
Gama-12B是一个多语言支持的大语言模型,提供多种量化版本以适应不同性能和精度需求。
大型语言模型
Transformers 支持多种语言

G
mradermacher
185
1
Thedrummer Agatha 111B V1 GGUF
这是TheDrummer的Agatha-111B-v1模型的量化版本,提供多种量化类型选择,适用于不同环境和需求。
大型语言模型
T
bartowski
1,169
1
Openbuddy R1 0528 Distill Qwen3 32B Preview1 QAT Q3 K M GGUF
Apache-2.0
基于OpenBuddy/Qwen3-32B蒸馏的轻量级多语言大语言模型,支持8种语言,采用Apache-2.0许可证
大型语言模型 支持多种语言
O
OpenBuddy
121
1
Llama 3.3 70b Instruct Deepseek Distilled GGUF
Apache-2.0
基于unsloth/Llama-3.3-70B-Instruct-bnb-4bit微调的多语言文本生成模型,支持英语、西班牙语、拉丁语、阿拉伯语和法语。
大型语言模型
Transformers 支持多种语言

L
ykarout
202
1
Infly Inf O1 Pi0 GGUF
基于infly/inf-o1-pi0模型的量化版本,支持多语言文本生成任务,采用llama.cpp工具进行imatrix量化优化。
大型语言模型 支持多种语言
I
bartowski
301
1
Dans PersonalityEngine V1.3.0 24b Q4 K M GGUF
Apache-2.0
基于Mistral-Small-3.1-24B-Base-2503的多语言文本生成模型,支持10种语言,适用于角色扮演和对话场景
大型语言模型
Transformers

D
King-Cane
596
1
Devstral Small 2505 4bit DWQ
Apache-2.0
这是一个基于MLX格式的4位量化语言模型,适用于文本生成任务。
大型语言模型 支持多种语言
D
mlx-community
238
3
Devstral Small 2505 Bf16
Apache-2.0
Devstral-Small-2505-bf16 是一个基于 MistralAI 的 Devstral-Small-2505 模型转换而来的 MLX 格式模型,支持多种语言处理任务。
大型语言模型 支持多种语言
D
mlx-community
207
1
Devstral Small 2505 8bit
Apache-2.0
Devstral-Small-2505-8bit 是一个基于 mistralai/Devstral-Small-2505 转换的 8 位量化模型,适用于 MLX 框架,支持多种语言的文本生成任务。
大型语言模型 支持多种语言
D
mlx-community
789
1
Devstral Small 2505 3bit
Apache-2.0
这是一个基于mistralai/Devstral-Small-2505模型转换的3位量化版本,适用于MLX框架,支持多语言文本生成任务。
大型语言模型 支持多种语言
D
mlx-community
121
1
Mistralai Devstral Small 2505 GGUF
Apache-2.0
Devstral-Small-2505的量化版本,支持多语言文本生成任务,适用于本地部署和推理。
大型语言模型 支持多种语言
M
bartowski
4,817
10
Devstral Small 2505 MLX 6bit
Apache-2.0
由mistralai开发的轻量级语言模型,经过MLX框架6位量化优化,专为Apple Silicon设计。
大型语言模型 支持多种语言
D
lmstudio-community
751
4
Devstral Small 2505 MLX 4bit
Apache-2.0
由mistralai开发的Devstral-Small-2505模型,经过MLX 4位量化优化,适用于Apple Silicon设备。
大型语言模型 支持多种语言
D
lmstudio-community
57.83k
3
Cogito 14b Gptq Q4
Apache-2.0
基于Qwen2.5-14B大语言模型的GPTQ量化版本,支持英语和西班牙语文本生成任务
大型语言模型
Transformers

C
mediainbox
8,547
2
Qwen3 8B GGUF
Apache-2.0
Qwen3是通义千问系列最新一代大语言模型,提供稠密模型和混合专家(MoE)模型的完整套件。基于大规模训练,Qwen3在推理能力、指令遵循、智能体功能和多语言支持方面实现了突破性进展。
大型语言模型 英语
Q
prithivMLmods
1,222
1
Qwen3 4B GGUF
Apache-2.0
Qwen3是通义千问系列最新一代大语言模型,提供完整的稠密模型与混合专家(MoE)模型组合。基于大规模训练,Qwen3在推理能力、指令遵循、智能体功能及多语言支持方面实现突破性进展。
大型语言模型 英语
Q
prithivMLmods
829
1
Qwen3 1.7B GGUF
Apache-2.0
Qwen3是通义千问系列大语言模型的最新版本,提供了一系列密集型和混合专家(MoE)模型。基于大规模训练,Qwen3在推理、指令遵循、智能体能力和多语言支持方面实现了突破性进展。
大型语言模型 英语
Q
prithivMLmods
357
1
Qwen3 0.6B GGUF
Apache-2.0
Qwen3是通义千问系列大语言模型的最新版本,提供了一系列密集型和混合专家(MoE)模型。基于大规模训练,Qwen3在推理能力、指令遵循、智能体功能和多语言支持方面实现了突破性进展。
大型语言模型 英语
Q
prithivMLmods
290
1
Arshgpt
MIT
Transformers 是一个由 Hugging Face 开发的开源库,提供多种预训练模型,用于自然语言处理任务。
大型语言模型
Transformers

A
arshiaafshani
69
5
Zeta 2
MIT
Zeta 2是一个约4.6亿参数的小型语言模型(SLM),在消费级电脑上精心打造,支持多种语言。
大型语言模型 支持多种语言
Z
Zeta-LLM
26
3
Mlabonne.qwen3 30B A3B Abliterated GGUF
Qwen3-30B-A3B-abliterated 是一个基于 Qwen 架构的 300 亿参数大型语言模型,专注于文本生成任务。
大型语言模型
M
DevQuasar
327
1
Consilience 40b 7Y9v38s5
Nous Consilience 40B是一个400亿参数的生成式文本模型,通过去中心化方式从零开始预训练,支持多种语言,代表人类多元创造性产出。
大型语言模型 支持多种语言
C
PsycheFoundation
44
3
Consilience 40b CqX3FUm4
Nous Consilience 40B 是一个通过互联网以去中心化方式预训练的生成式文本模型,代表人类广泛多样的创造性成果。
大型语言模型
Safetensors 支持多种语言
C
PsycheFoundation
287
3
Helium 1 2b Q8 0 GGUF
这是一个基于kyutai/helium-1-2b转换的GGUF格式模型,支持多种欧洲语言。
大型语言模型 支持多种语言
H
NikolayKozloff
53
3
Fdtn Ai.foundation Sec 8B GGUF
Foundation-Sec-8B 是一个基于 Transformer 架构的大型语言模型,专注于文本生成任务。
大型语言模型
F
DevQuasar
1,248
2
Meta Llama 3.1 8B GGUF
Meta-Llama-3.1-8B的GGUF量化版本,基于llama.cpp工具生成,支持多语言文本生成任务。
大型语言模型 支持多种语言
M
fedric95
253
3
Google Gemma 3 27b It Text
Gemma 3 27B的纯文本适配版本,移除了图像处理功能,专注于文本生成任务
大型语言模型
Transformers

G
Changgil
34
2
Llama 3.3 Swallow 70B Instruct V0.4
Llama 3.3 Swallow是基于Meta Llama 3.3模型进行持续预训练的大型语言模型(70B),增强了日语能力同时保留原有英语能力。
大型语言模型
Transformers 支持多种语言

L
tokyotech-llm
874
3
Flarenew
MIT
LaMini-Flan-T5-783M 是一个基于T5架构的轻量级文本生成模型,支持英语、俄语和乌克兰语,适用于多种自然语言处理任务。
大型语言模型
Transformers 支持多种语言

F
HaveAI
718
1
Acip Qwen25 3b
Apache-2.0
ACIP项目提供的Qwen2.5-3B可压缩版本,支持动态调整模型大小并保持性能
大型语言模型
Transformers 英语

A
MerantixMomentum
31
1
Gemma 3 12b It Qat 8bit
其他
基于Google Gemma 3 12B模型转换的8位量化版本,适用于图像文本到文本任务。
图像生成文本
Transformers 其他

G
mlx-community
149
1
Salesforce.llama Xlam 2 8b Fc R GGUF
Salesforce发布的8亿参数规模的Llama-xLAM-2模型量化版本,专注于文本生成任务
大型语言模型
S
DevQuasar
286
1
3b Es It Ft Research Release Q4 K M GGUF
Apache-2.0
这是一个基于canopylabs/3b-es_it-ft-research_release转换的GGUF格式模型,支持西班牙语和意大利语。
大型语言模型 支持多种语言
3
freddyaboulton
1,052
0
Nemotron H 56B Base 8K
其他
Nemotron-H-56B-Base-8K是英伟达开发的大型语言模型,采用混合Mamba-Transformer架构,支持8K上下文长度和多语言文本生成。
大型语言模型
Transformers 支持多种语言

N
nvidia
904
26
Nemotron H 47B Base 8K
其他
NVIDIA Nemotron-H-47B-Base-8K 是由 NVIDIA 开发的大型语言模型(LLM),设计用于对给定文本进行补全。该模型采用混合架构,主要由 Mamba-2 和 MLP 层组成,并仅包含五个注意力层。
大型语言模型
Transformers 支持多种语言

N
nvidia
1,242
16
Indicbart Mr Test
IndicBART-mr-test是基于ai4bharat/IndicBART模型在未知数据集上微调的版本,主要用于文本生成任务,支持马拉地语。
大型语言模型
Transformers

I
AmaanDhamaskar
47
1
Llama 3 3 Nemotron Super 49B V1 Q6 K GGUF
其他
该模型是基于NVIDIA的Llama-3_3-Nemotron-Super-49B-v1转换而来的GGUF格式版本,适用于文本生成任务。
大型语言模型 英语
L
openfree
2,495
5
Gemma 3 R1984 27B Q6 K GGUF
基于VIDraft/Gemma-3-R1984-27B转换的GGUF格式模型,支持多语言文本生成
大型语言模型 支持多种语言
G
GrimsenClory
28
1
Teapotai Teapotllm Onnx
MIT
TeapotLLM的ONNX版本,支持通过Transformers.js在浏览器中运行的多语言文本生成模型。
大型语言模型
Transformers 支持多种语言

T
tomasmcm
46
1
- 1
- 2
- 3
精选推荐AI模型
Llama 3 Typhoon V1.5x 8b Instruct
专为泰语设计的80亿参数指令模型,性能媲美GPT-3.5-turbo,优化了应用场景、检索增强生成、受限生成和推理任务
大型语言模型
Transformers 支持多种语言

L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-Tiny是一个基于SODA数据集训练的超小型对话模型,专为边缘设备推理设计,体积仅为Cosmo-3B模型的2%左右。
对话系统
Transformers 英语

C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
基于RoBERTa架构的中文抽取式问答模型,适用于从给定文本中提取答案的任务。
问答系统 中文
R
uer
2,694
98