Tencent.hunyuan A13B Instruct GGUF
騰訊混元A13B指令模型的量化版本,通過技術手段在保證性能的同時提升運行效率。
大型語言模型
T
DevQuasar
402
1
Drmedra4b GGUF
Apache-2.0
基於預訓練模型drwlf/DrMedra4B的量化版本,適用於醫療AI相關任務
大型語言模型
Transformers 支持多種語言

D
mradermacher
185
0
Qwenstoryteller GGUF
Apache-2.0
基於Qwen的視覺敘事模型量化版本,專注於跨幀一致的故事生成和圖像轉文本任務
圖像生成文本 英語
Q
mradermacher
195
0
Qwen3 0.6B GGUF
Apache-2.0
Qwen3是通義千問系列大語言模型的最新版本,提供了一系列密集型和混合專家(MoE)模型。基於大規模訓練,Qwen3在推理能力、指令遵循、智能體功能和多語言支持方面實現了突破性進展。
大型語言模型 英語
Q
prithivMLmods
290
1
Nousresearch.deephermes ToolCalling Specialist Atropos GGUF
DeepHermes-ToolCalling-Specialist-Atropos 是一個專注於工具調用的文本生成模型,旨在通過自然語言處理技術實現高效的任務執行。
大型語言模型
N
DevQuasar
419
1
Gemma 3 27b It Qat Unsloth Bnb 4bit
Gemma 3是Google推出的輕量級、最先進的多模態開源模型,能夠處理文本和圖像輸入並生成文本輸出。
圖像生成文本
Transformers

G
unsloth
2,591
1
Erax Translator V1.0 I1 GGUF
EraX-Translator-V1.0的量化版本,支持多語言翻譯,特別適用於低資源環境和古漢語、佛教典籍翻譯。
機器翻譯 支持多種語言
E
mradermacher
659
1
Erax Translator V1.0 GGUF
EraX-Translator-V1.0 是一個多語言翻譯模型,支持包括越南語、英語、俄語、法語、中文等多種語言的翻譯任務,特別適用於低資源語言和古代漢語及佛教典籍的翻譯。
機器翻譯 支持多種語言
E
mradermacher
361
1
Gemma 3 4b It Qat Q4 0 Unquantized
Gemma 3是Google推出的輕量級開源多模態模型,基於與Gemini相同技術構建,支持文本和圖像輸入並生成文本輸出。
圖像生成文本
Transformers

G
google
1,159
5
Financeconnect 13B GGUF
Apache-2.0
FinanceConnect-13B 是一個專注於金融領域的13B參數大語言模型,支持摘要生成、分類、翻譯等自然語言處理任務。
大型語言模型 英語
F
mradermacher
99
0
Senecallm X Qwen2.5 7B CyberSecurity Q8 0 GGUF
MIT
這是一個基於Qwen2.5-7B架構的網絡安全領域大語言模型,轉換為GGUF格式以便在llama.cpp中使用。
大型語言模型 英語
S
Nekuromento
18
1
Multilingual E5 Large Instruct GGUF
MIT
多語言e5系列是多語言嵌入模型的最佳選擇之一,支持多種語言和任務。
文本嵌入
M
Ralriki
13.17k
5
Mistral 7B Instruct V0.3 GGUF
Apache-2.0
Mistral-7B-Instruct-v0.3 的量化版本,提供多種量化選項以適應不同硬件需求
大型語言模型
M
gaianet
137
1
Smart Lemon Cookie 7B GGUF
這是FallenMerick/Smart-Lemon-Cookie-7B的靜態量化版本,提供多種量化選項,適用於文本生成和角色扮演任務。
大型語言模型 英語
S
mradermacher
142
4
Longalpaca 13B GGUF
LongAlpaca-13B-GGUF是基於Yukang/LongAlpaca-13B模型的GGUF格式量化版本,支持2-8比特的量化選項,適用於本地文本生成任務。
大型語言模型
L
MaziyarPanahi
285
3
精選推薦AI模型
Llama 3 Typhoon V1.5x 8b Instruct
專為泰語設計的80億參數指令模型,性能媲美GPT-3.5-turbo,優化了應用場景、檢索增強生成、受限生成和推理任務
大型語言模型
Transformers 支持多種語言

L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-Tiny是一個基於SODA數據集訓練的超小型對話模型,專為邊緣設備推理設計,體積僅為Cosmo-3B模型的2%左右。
對話系統
Transformers 英語

C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
基於RoBERTa架構的中文抽取式問答模型,適用於從給定文本中提取答案的任務。
問答系統 中文
R
uer
2,694
98