Unireason Qwen3 14B RL GGUF
Apache-2.0
UniReason-Qwen3-14B-RL的靜態量化版本,適用於文本生成和數學推理研究場景。
大型語言模型
Transformers 英語

U
mradermacher
272
1
Echelon AI Med Qwen2 7B GGUF
該項目提供了Echelon-AI/Med-Qwen2-7B模型的GGUF量化文件,由Featherless AI提供支持,旨在增強模型性能並降低運行成本。
大型語言模型
E
featherless-ai-quants
183
1
Fpham Sydney Overthinker 13b HF GGUF
該項目提供了優化後的GGUF量化文件,可顯著提升模型性能。這些量化文件由Featherless AI提供支持,用戶只需支付少量費用,即可運行任意所需模型。
大型語言模型
F
featherless-ai-quants
133
1
Deepseek R1 Llama 8B F32 GGUF
Apache-2.0
DeepSeek-R1-Llama-8B-F32-GGUF 是 DeepSeek-R1-Distill-Llama-8B 的量化版本,採用強化學習直接訓練,具備自我驗證、反思和生成擴展思維鏈等能力。
大型語言模型
Transformers 英語

D
prithivMLmods
326
1
Deepseek Ai DeepSeek R1 0528 GGUF
MIT
DeepSeek-R1-0528 是一個大型語言模型,經過量化處理以優化在不同硬件上的運行效率。
大型語言模型
D
bartowski
2,703
6
Nvidia AceReason Nemotron 7B GGUF
其他
AceReason-Nemotron-7B 是一個基於 Nemotron 架構的 7B 參數規模的大型語言模型,提供多種量化版本以適應不同硬件需求。
大型語言模型
N
bartowski
209
2
Devstral Small 2505 GGUF
Apache-2.0
Devstral-Small-2505的量化版本,提供多種精度選擇以適應不同硬件需求
大型語言模型 支持多種語言
D
Antigma
170
1
A M Team AM Thinking V1 GGUF
Apache-2.0
基於a-m-team/AM-Thinking-v1模型的Llamacpp imatrix量化版本,支持多種量化類型,適用於文本生成任務。
大型語言模型
A
bartowski
671
1
Sam Reason S2.1 GGUF
MIT
Sam-reason-S2.1的靜態量化版本,提供多種量化選項以適應不同硬件需求
大型語言模型 英語
S
mradermacher
299
1
Magtie V1 12B GGUF
Apache-2.0
MagTie-v1-12B的GGUF量化版本集合,通過mergekit工具合併預訓練語言模型創建,適用於文本生成任務。
大型語言模型
Transformers

M
grimjim
373
2
Microsoft Phi 4 Reasoning GGUF
MIT
這是微軟Phi-4-reasoning模型的量化版本,使用llama.cpp進行優化,適用於推理任務,支持多種量化選項。
大型語言模型
M
bartowski
5,443
4
Google Gemma 3 12b It Qat GGUF
基於Google QAT(量化感知訓練)權重量化的Gemma-3-12b模型,提供多種量化版本以適應不同硬件需求。
大型語言模型
G
bartowski
10.78k
16
Llama 2 7b Chat Hf GGUF
Llama 2是由Meta開發的7B參數規模的大語言模型,提供多種量化版本以適應不同硬件需求。
大型語言模型 英語
L
Mungert
1,348
3
Deepseek R1 14b Cot Math Reasoning Full GGUF
MIT
14B參數規模的數學推理大語言模型,支持思維鏈推理
大型語言模型
D
tensorblock
838
2
Gemma 3 12b It GGUF
Gemma 3 12B 的 GGUF 量化版本,適用於文本生成任務。
大型語言模型
G
MaziyarPanahi
641.41k
4
Chroma GGUF
Apache-2.0
Chroma-GGUF 是一個基於 lodestones/Chroma 的量化模型集合,提供多種不同精度的量化版本,適用於不同的硬件和性能需求。
圖像生成
C
silveroxides
8,529
20
Lacia Sum Small V1 GGUF
Lacia_sum_small_v1 是一個基於 T5 架構的靜態量化模型,主要用於文本摘要生成任務。支持俄語和英語,適用於自然語言處理領域。
文本生成 支持多種語言
L
mradermacher
312
1
VISION 1 GGUF
VISION-1是一個基於transformers的內容審核與安全分類模型,專注於文本分類任務。
文本分類 英語
V
mradermacher
153
2
FLUX.1 Fill Dev GGUF
其他
FLUX.1-Fill-dev 是一個基於 FLUX 技術的文本生成圖像模型,專注於圖像填充任務。
文本生成圖像 英語
F
second-state
691
3
FLUX.1 Redux Dev GGUF
其他
FLUX.1-Redux-dev是基於FLUX技術棧的文本生成圖像模型,支持英語語言,採用非商業許可證。
文本生成圖像 英語
F
second-state
527
9
Stable Diffusion 2 1 GGUF
Stable Diffusion 2.1的GGUF量化版本,支持多種量化精度,適用於文本生成圖像任務。
圖像生成
S
second-state
682
4
GIGABATEMAN 7B GGUF
GIGABATEMAN-7B 是一個基於 Mistral 架構的 7B 參數大型語言模型,專注於文本生成任務。
大型語言模型 英語
G
mradermacher
115
3
Bge Base En V1.5 Gguf
MIT
該項目提供了以GGUF格式存儲的BGE嵌入模型,適用於與llama.cpp配合使用,提供比transformers更好的性能表現。
文本嵌入
B
CompendiumLabs
1,108
5
Xwin LM 13B V0.1 GPTQ
Xwin-LM 13B V0.1是基於Llama2架構的大語言模型,由Xwin-LM團隊開發。該模型以專業、詳盡且禮貌的方式回答用戶問題,適用於對話場景。
大型語言模型
Transformers

X
TheBloke
868
18
精選推薦AI模型
Llama 3 Typhoon V1.5x 8b Instruct
專為泰語設計的80億參數指令模型,性能媲美GPT-3.5-turbo,優化了應用場景、檢索增強生成、受限生成和推理任務
大型語言模型
Transformers 支持多種語言

L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-Tiny是一個基於SODA數據集訓練的超小型對話模型,專為邊緣設備推理設計,體積僅為Cosmo-3B模型的2%左右。
對話系統
Transformers 英語

C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
基於RoBERTa架構的中文抽取式問答模型,適用於從給定文本中提取答案的任務。
問答系統 中文
R
uer
2,694
98