LGAI EXAONE EXAONE 4.0 1.2B GGUF
EXAONE-4.0-1.2B是LGAI-EXAONE發佈的1.2B參數語言模型,提供多種量化版本以適應不同硬件需求。
大型語言模型
L
bartowski
402
1
LGAI EXAONE EXAONE 4.0 32B GGUF
LGAI-EXAONE的EXAONE-4.0-32B模型的量化版本,使用llama.cpp工具進行量化處理,旨在為不同硬件條件的用戶提供更靈活的使用選擇。
大型語言模型
L
bartowski
708
2
Nvidia OpenReasoning Nemotron 14B GGUF
這是NVIDIA的OpenReasoning-Nemotron-14B模型的量化版本,旨在提升模型在不同硬件上的運行效率和性能。
大型語言模型
N
bartowski
1,039
1
Menlo Lucy GGUF
Lucy模型是Menlo公司開發的大語言模型,經過量化處理後能在保證性能的同時減少資源需求,提升運行效率。
大型語言模型
M
bartowski
674
3
Google Medgemma 4b It GGUF
其他
這是Google的medgemma-4b-it模型的Llamacpp imatrix量化版本,提供了多種量化選項,適用於不同需求的用戶。
大型語言模型
G
bartowski
348
3
Thedrummer Snowpiercer 15B V2 GGUF
MIT
這是TheDrummer的Snowpiercer-15B-v2模型的量化版本,使用llama.cpp工具進行量化處理,提供多種量化類型以滿足不同性能和質量需求。
大型語言模型
T
bartowski
1,235
1
Rekaai Reka Flash 3.1 GGUF
Apache-2.0
這是RekaAI的reka-flash-3.1模型的Llamacpp imatrix量化版本,通過量化技術減少模型存儲空間和計算資源需求,適合資源受限的設備運行。
大型語言模型
R
bartowski
1,449
2
Pinkpixel Crystal Think V2 GGUF
Apache-2.0
這是一個對PinkPixel的Crystal-Think-V2模型進行的量化處理版本,提供多種量化類型以滿足不同硬件和性能需求。
大型語言模型 英語
P
bartowski
128
1
Skywork Skywork SWE 32B GGUF
Apache-2.0
Skywork-SWE-32B是一個32B參數的大語言模型,經過Llamacpp imatrix量化,可在資源受限環境下高效運行。
大型語言模型
S
bartowski
921
2
Nvidia AceReason Nemotron 1.1 7B GGUF
其他
這是NVIDIA AceReason - Nemotron - 1.1 - 7B模型的量化版本,通過優化模型在不同硬件上的運行效率,同時保持一定的性能和質量。
大型語言模型 支持多種語言
N
bartowski
1,303
1
Delta Vector Austral 24B Winton GGUF
Apache-2.0
Delta-Vector的Austral-24B-Winton模型的量化版本,使用llama.cpp工具進行量化處理,適用於不同硬件配置的高效運行。
大型語言模型 英語
D
bartowski
421
1
Sophosympatheia StrawberryLemonade L3 70B V1.0 GGUF
StrawberryLemonade-L3-70B-v1.0 是一個經過量化處理的大型語言模型,旨在在不同硬件條件下高效運行。
大型語言模型 英語
S
bartowski
1,406
1
Akhil Theerthala Kuvera 8B V0.1.0 GGUF
MIT
Kuvera-8B是一個專注於金融和個人理財領域的8B參數大語言模型,提供多種量化版本以適應不同硬件需求。
大型語言模型 英語
A
bartowski
793
1
Microsoft Phi 4 Mini Reasoning GGUF
MIT
這是微軟Phi-4-mini-reasoning模型的量化版本,使用llamacpp工具進行量化處理,旨在提升模型在不同硬件環境下的運行效率和性能。
大型語言模型 支持多種語言
M
bartowski
1,667
7
Zed Industries Zeta GGUF
Apache-2.0
這是對zed-industries的zeta模型進行的Llamacpp imatrix量化版本,解決了在不同硬件條件下高效運行模型的問題,提供了多種量化類型供用戶選擇。
大型語言模型
Z
bartowski
561
12
Black Ink Guild Pernicious Prophecy 70B GGUF
基於llama.cpp的70B參數大語言模型量化版本,提供多種量化選項以適應不同硬件條件
大型語言模型 英語
B
bartowski
198
1
Arcee Ai Virtuoso Small V2 GGUF
Apache-2.0
基於llama.cpp對arcee-ai/Virtuoso-Small-v2模型進行量化的版本,提供多種量化類型以滿足不同硬件和性能需求。
大型語言模型
A
bartowski
1,976
10
L3.3 MS Nevoria 70b GGUF
基於Steelskull/L3.3-MS-Nevoria-70b模型的量化版本,使用llama.cpp進行imatrix量化,支持多種量化級別,適用於不同硬件環境。
大型語言模型
L
bartowski
5,252
12
精選推薦AI模型
Qwen2.5 VL 7B Abliterated Caption It I1 GGUF
Apache-2.0
Qwen2.5-VL-7B-Abliterated-Caption-it的量化版本,支持多語言圖像描述任務。
圖像生成文本
Transformers 支持多種語言

Q
mradermacher
167
1
Nunchaku Flux.1 Dev Colossus
其他
Colossus Project Flux 的 Nunchaku 量化版本,旨在根據文本提示生成高質量圖像。該模型在優化推理效率的同時,將性能損失降至最低。
圖像生成 英語
N
nunchaku-tech
235
3
Qwen2.5 VL 7B Abliterated Caption It GGUF
Apache-2.0
這是一個基於Qwen2.5-VL-7B模型的靜態量化版本,專注於圖像描述生成任務,支持多種語言。
圖像生成文本
Transformers 支持多種語言

Q
mradermacher
133
1
Olmocr 7B 0725 FP8
Apache-2.0
olmOCR-7B-0725-FP8是基於Qwen2.5-VL-7B-Instruct模型,使用olmOCR-mix-0225數據集微調後量化為FP8版本的文檔OCR模型。
圖像生成文本
Transformers 英語

O
allenai
881
3
Lucy 128k GGUF
Apache-2.0
Lucy-128k是基於Qwen3-1.7B開發的專注於代理式網絡搜索和輕量級瀏覽的模型,在移動設備上也能高效運行。
大型語言模型
Transformers 英語

L
Mungert
263
2