# 8位量化
Devstral Small 2507 MLX 8bit
Apache-2.0
Devstral-Small-2507是一个支持多语言文本生成的模型,针对苹果芯片进行了优化。
大型语言模型
Safetensors Supports Multiple Languages
D
lmstudio-community
161.66k
2
Deepseek R1 0528 Qwen3 8B MLX 8bit
MIT
基于DeepSeek-R1-0528-Qwen3-8B模型的8位量化版本,专为苹果Silicon芯片优化,适用于文本生成任务。
大型语言模型
D
lmstudio-community
151.87k
2
Fastvlm 1.5B Stage3 MNN
Apache-2.0
FastVLM-1.5B-Stage3-MNN是基于Transformer架构的文本生成模型,是FastVLM-1.5B-Stage3的8位量化版本,适用于聊天等文本生成场景。
大型语言模型 English
F
taobao-mnn
1,157
1
Qwen3 32B 4bit DWQ
Apache-2.0
Qwen3-32B-8bit是基于Qwen3-32B模型量化的8位版本,适用于文本生成任务,由mlx-community发布。
大型语言模型
Q
mlx-community
211
1
Orpheus 3b Korean FT Q8 0.gguf
Apache-2.0
Orpheus是一款高性能韩语文本转语音模型,专为自然情感语音合成而微调,提供8位量化版本以优化效率。
语音合成 Supports Multiple Languages
O
lex-au
29
0
Orpheus 3b French FT Q8 0.gguf
Apache-2.0
奥菲斯是一款高性能文本转语音模型,专为自然情感语音合成而微调。本仓库托管了30亿参数模型的8位量化版本,在保持高质量输出的同时优化了效率。
语音合成 Supports Multiple Languages
O
lex-au
101
1
Orpheus 3b Hindi FT Q8 0.gguf
Apache-2.0
俄耳甫斯是一款高性能文本转语音模型,专为自然情感语音合成而微调。本仓库托管了30亿参数模型的8位量化版本,在保持高质量输出的同时优化了效率。
语音合成 Other
O
lex-au
42
0
Orpheus 3b German FT Q8 0.gguf
Apache-2.0
Orpheus是一款高性能德语文本转语音模型,经过精调可实现自然且富有情感的语音合成。本模型是30亿参数模型的8位量化版本,优化了运行效率。
语音合成 Supports Multiple Languages
O
lex-au
130
3
Gemma 3 27b It Qat 8bit
Other
Gemma 3 27B IT QAT 8bit 是一个基于 Google 的 Gemma 3 27B 模型转换而来的 MLX 格式模型,支持图文到文本的任务。
图像生成文本
Transformers Other

G
mlx-community
422
2
Orpheus 3b 0.1 Pretrained 8bit
Apache-2.0
这是一个基于MLX框架的8位量化版本Orpheus-3B预训练语言模型,原始模型由CanopyLabs开发。
大型语言模型 English
O
mlx-community
15
1
Gpt J 6B 8bit
Apache-2.0
这是EleutherAI GPT-J 60亿参数模型的8位量化版本,专为在有限GPU资源(如Colab或1080Ti)上运行和微调而优化。
大型语言模型
Transformers English

G
hivemind
176
131
Featured Recommended AI Models
Llama 3 Typhoon V1.5x 8b Instruct
专为泰语设计的80亿参数指令模型,性能媲美GPT-3.5-turbo,优化了应用场景、检索增强生成、受限生成和推理任务
大型语言模型
Transformers Supports Multiple Languages

L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-Tiny是一个基于SODA数据集训练的超小型对话模型,专为边缘设备推理设计,体积仅为Cosmo-3B模型的2%左右。
对话系统
Transformers English

C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
基于RoBERTa架构的中文抽取式问答模型,适用于从给定文本中提取答案的任务。
问答系统 Chinese
R
uer
2,694
98