# 多量化版本

Longwriter Zero 32B I1 GGUF
Apache-2.0
LongWriter-Zero-32B 量化模型基於 THU-KEG/LongWriter-Zero-32B 基礎模型,支持中英雙語,適用於強化學習、寫作等長上下文場景。
大型語言模型 Transformers 支持多種語言
L
mradermacher
135
1
ICONNAI ICONN 1 GGUF
其他
ICONN-1的量化版本,提供多種量化選項以適應不同性能和質量需求
大型語言模型
I
bartowski
609
6
Mass Academy Faq Embedder I1 GGUF
本模型是ntproctor/mass-academy-faq-embedder的量化版本,提供多種量化類型選擇,適用於高效的特徵提取和句子相似度計算。
文本嵌入 Transformers 英語
M
mradermacher
452
1
Qwen2 Audio 7B Instruct GGUF
Apache-2.0
Qwen2-Audio-7B-Instruct模型的靜態量化版本,支持英文音頻文本轉文本任務
音頻生成文本 Transformers 英語
Q
mradermacher
146
0
Facebook KernelLLM GGUF
其他
KernelLLM是Facebook開發的大語言模型,此版本為使用llama.cpp工具進行imatrix量化的版本,提供多種量化選項以適應不同硬件需求。
大型語言模型
F
bartowski
5,151
2
Wan2.1 14B VACE GGUF
Apache-2.0
Wan2.1-VACE-14B模型的GGUF格式版本,主要用於文本到視頻的生成任務。
文本生成視頻
W
QuantStack
146.36k
139
Thedrummer Snowpiercer 15B V1 GGUF
MIT
基於TheDrummer/Snowpiercer-15B-v1模型的量化版本,使用llama.cpp進行量化,適用於文本生成任務。
大型語言模型
T
bartowski
4,783
1
Mlabonne Qwen3 1.7B Abliterated GGUF
這是一個基於Qwen3-1.7B-abliterated模型的量化版本,使用llama.cpp進行量化,支持多種量化類型,適用於文本生成任務。
大型語言模型
M
bartowski
1,493
2
Josiefied Qwen3 4B Abliterated V1 Gguf
Apache-2.0
這是 Josiefied-Qwen3-4B-abliterated-v1 模型的 GGUF 量化版本,適用於本地部署和運行。
大型語言模型
J
Goekdeniz-Guelmez
4,518
7
Inclusionai Ling Lite 0415 GGUF
MIT
基於inclusionAI/Ling-lite的量化版本,使用llama.cpp進行imatrix量化,支持多種量化類型以適應不同硬件需求。
大型語言模型
I
bartowski
3,112
6
Deepcoder 14B Preview Exl2
DeepCoder-14B-Preview是基於DeepSeek-R1-Distill-Qwen-14B開發的代碼生成模型,專注於可驗證編程問題的解決。
大型語言模型 英語
D
cgus
46
2
Beaver 7b V3.0 GGUF
Beaver-7B-v3.0 是一個基於 LLaMA 架構的 7B 參數大語言模型,專注於安全性和人類反饋強化學習(RLHF)。
大型語言模型 英語
B
mradermacher
405
1
Orpheus Bangla GGUF
Apache-2.0
這是asif00/orpheus-bangla-tts模型的靜態量化版本,支持孟加拉語文本轉語音任務。
語音合成 其他
O
mradermacher
416
0
Lightblue Reranker 0.5 Bincont Filt Gguf
這是一個文本排序模型,用於對文本進行相關性排序。
文本嵌入
L
RichardErkhov
2,054
0
Lightblue Reranker 0.5 Cont Gguf
這是一個文本排序模型,用於對文本進行重新排序和評分。
文本嵌入
L
RichardErkhov
1,986
0
Jbaron34 Qwen2.5 0.5b Bebop Reranker Newer Small Gguf
基於Qwen2.5架構的0.5億參數文本排序模型,適用於信息檢索和文檔排序任務
大型語言模型
J
RichardErkhov
2,117
0
Jbaron34 Qwen2.5 0.5b Bebop Reranker New Small Gguf
基於Qwen2.5架構的0.5B參數規模的文本排序模型,適用於重排序任務。
大型語言模型
J
RichardErkhov
2,454
0
Hyvid I2v Gguf
其他
騰訊混元社區開發的圖像轉視頻模型,能夠將輸入的文本描述轉換為動態視頻內容。
視頻處理 英語
H
calcuis
1,212
6
Pllum 8x7B Chat GGUF
Apache-2.0
PLLuM-8x7B-chat的GGUF量化版本,針對本地推理優化,支持多種量化級別以適應不同硬件需求。
大型語言模型 Transformers
P
piotrmaciejbednarski
126
2
Gte Qwen2 7B Instruct GGUF
Apache-2.0
阿里巴巴NLP團隊開發的7B參數規模的多語言文本嵌入模型,專注於句子相似度任務,提供多種量化版本
大型語言模型 英語
G
mradermacher
510
2
Heackmt5 ZhSum100k GGUF
基於mT5架構的中文摘要生成模型,提供多種量化版本
文本生成 中文
H
mradermacher
60
0
Greek Text Summarization GGUF
Apache-2.0
基於kriton/greek-text-summarization的靜態量化版本,專注於希臘語文本摘要任務
文本生成 其他
G
mradermacher
216
0
Deepthink Reasoning 7B GGUF
Openrail
Deepthink-Reasoning-7B的Llamacpp imatrix量化版本,提供多種量化類型選擇以適應不同硬件需求
大型語言模型 英語
D
bartowski
1,180
3
Smolmaestra 1.7b Translation GGUF
Apache-2.0
SmolMaestra-1.7b-Translation是一個1.7B參數的翻譯模型,支持英語和意大利語之間的翻譯任務。
機器翻譯 支持多種語言
S
tensorblock
406
1
Aura 4B GGUF
Apache-2.0
Aura-4B是一個基於AuraIndustries/Aura-4B的量化版本,使用llama.cpp進行imatrix量化,支持多種量化類型,適用於文本生成任務。
大型語言模型 英語
A
bartowski
290
8
Aion RP Llama 3.1 8B GGUF
Apache-2.0
Aion-RP-Llama-3.1-8B的Llamacpp imatrix量化版本,提供多種量化選項以適應不同硬件需求。
大型語言模型
A
bartowski
159
1
FLUX.1 Canny Dev GGUF
其他
FLUX.1-Canny-dev 是一個基於文本生成圖像的模型,專注於圖像生成任務。
文本生成圖像 英語
F
second-state
676
12
Stable Diffusion 3.5 Medium GGUF
其他
Stable Diffusion 3.5 Medium 的 GGUF 量化版本,支持文本到圖像生成任務。
文本生成圖像 英語
S
second-state
3,333
8
Llama Mesh GGUF
LLaMA-Mesh是一個基於LLaMA架構的文本轉3D模型,專注於網格生成任務。該版本是使用llama.cpp進行量化的版本,提供了多種量化選項以適應不同硬件需求。
文本生成圖像
L
bartowski
1,911
30
Stable Diffusion 3.5 Large GGUF
其他
Stable Diffusion 3.5 Large 是一個強大的文本生成圖像模型,基於擴散模型架構,能夠根據文本描述生成高質量的圖像。
文本生成圖像 英語
S
second-state
2,422
3
Qwen2.5 Coder 1.5B GGUF
Apache-2.0
Qwen2.5-Coder-1.5B 是一個1.5B參數的代碼生成模型,支持多種編程語言,適用於代碼補全和生成任務。
大型語言模型 Transformers 支持多種語言
Q
tensorblock
162
1
LLAMA 3 8B Unaligned BETA GGUF
基於LLaMA-3架構的8B參數未對齊測試版模型,提供多種量化版本以適應不同硬件需求
大型語言模型
L
bartowski
542
10
FLUX.1 Dev GGUF
其他
FLUX.1-dev 是一個文本生成圖像的擴散模型,由 black-forest-labs 開發,支持通過文本提示生成高質量圖像。
文本生成圖像 英語
F
second-state
2,211
8
Thusinh1969 Gemma2 2b Rerank Checkpoint 8800 Gguf
基於Gemma 2B架構的文本排序模型,提供多種量化版本以適應不同硬件需求
T
RichardErkhov
71
0
Chewy Lemon Cookie 11B GGUF
Chewy-Lemon-Cookie-11B 是一個基於 Mistral 架構的 11B 參數大語言模型,專注於文本生成和角色扮演任務。
大型語言模型 英語
C
mradermacher
296
2
Wizardlm 2 7B Abliterated GGUF
Apache-2.0
WizardLM-2-7B-abliterated的Llamacpp imatrix量化版本,提供多種量化選項,適用於不同硬件配置。
大型語言模型
W
bartowski
2,561
13
Mistral 7B Instruct V0.3 GGUF
Apache-2.0
Mistral-7B-Instruct-v0.3 是基於 Mistral-7B-v0.3 進行指令微調的大型語言模型,支持函數調用和擴展詞彙表。
大型語言模型
M
SanctumAI
34.61k
9
Phi 3 Mini 128k Instruct Function GGUF
Phi-3-mini-128k-instruct_function 是一個基於 GGUF 格式量化的文本生成模型,支持多種量化級別。
大型語言模型
P
afrideva
40
1
Orcamaid V3 13B 32k GGUF
其他
Orcamaid v3 13B 32K 是一個基於 Llama 架構的大語言模型,支持 32K 序列長度,適用於文本生成任務。
大型語言模型 Transformers
O
TheBloke
163
17
Law LLM 13B GGUF
其他
Law LLM 13B是基於LLaMA-1-13B開發的特定領域基礎模型,專注於法律領域的任務。
大型語言模型 Transformers 英語
L
TheBloke
420
8
AIbase
智啟未來,您的人工智能解決方案智庫
© 2025AIbase