Nvidia AceReason Nemotron 1.1 7B GGUF
其他
這是NVIDIA AceReason - Nemotron - 1.1 - 7B模型的量化版本,通過優化模型在不同硬件上的運行效率,同時保持一定的性能和質量。
大型語言模型 支持多種語言
N
bartowski
1,303
1
Deepseek R1 Distill Qwen 32B Quantized.w8a8
MIT
DeepSeek-R1-Distill-Qwen-32B的INT8量化版本,通過權重量化和激活值量化減少顯存佔用並提升計算效率。
大型語言模型
Transformers

D
neuralmagic
2,324
9
Mera Mix 4x7B
Apache-2.0
mera-mix-4x7B是一個專家混合(MoE)模型,規模為Mixtral-8x7B的一半,但性能相當且推理速度更快。
大型語言模型
Transformers

M
meraGPT
2,375
19
Prosparse Llama 2 7b
基於LLaMA-2-7B的激活稀疏化大語言模型,通過ProSparse方法實現高稀疏率(89.32%)且保持原始性能
大型語言模型
Transformers 英語

P
SparseLLM
152
15
精選推薦AI模型
Llama 3 Typhoon V1.5x 8b Instruct
專為泰語設計的80億參數指令模型,性能媲美GPT-3.5-turbo,優化了應用場景、檢索增強生成、受限生成和推理任務
大型語言模型
Transformers 支持多種語言

L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-Tiny是一個基於SODA數據集訓練的超小型對話模型,專為邊緣設備推理設計,體積僅為Cosmo-3B模型的2%左右。
對話系統
Transformers 英語

C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
基於RoBERTa架構的中文抽取式問答模型,適用於從給定文本中提取答案的任務。
問答系統 中文
R
uer
2,694
98