Qwen Qwen2.5 Coder 1.5B GGUF
Qwen2.5-Coder-1.5B的GGUF量化版本,針對代碼生成任務優化,提供多種量化選項以平衡性能與資源消耗。
大型語言模型
Q
featherless-ai-quants
228
1
Vintern 1B V3 5 GGUF Ext
MIT
Vintern-1B-v3_5是一個10億參數的視覺語言模型,支持圖像文本生成任務。
文本生成圖像
V
rootonchair
242
1
Qwen Qwen3 8B GGUF
Apache-2.0
Qwen3-8B的GGUF格式量化版本,由TensorBlock提供,兼容llama.cpp
大型語言模型
Q
tensorblock
452
1
Smolvlm2 2.2B Instruct I1 GGUF
Apache-2.0
SmolVLM2-2.2B-Instruct 是一個2.2B參數規模的視覺語言模型,專注於視頻文本到文本任務,支持英語。
英語
S
mradermacher
285
0
Cupidon Mini Ro I1 GGUF
Apache-2.0
這是對BlackKakapo/cupidon-mini-ro進行的加權/imatrix量化版本,適用於羅馬尼亞語文本處理任務。
文本嵌入 其他
C
mradermacher
546
1
Gte Qwen2 1.5B Instruct GGUF
Apache-2.0
基於阿里巴巴NLP/gte-Qwen2-1.5B-instruct的量化版本,主要用於句子相似度計算和文本嵌入任務。
大型語言模型 英語
G
mradermacher
365
2
Gemma 2 Baku 2b It GGUF
這是rinna公司的gemma-2-baku-2b-it模型的GGUF格式轉換版本,應用了K量子化和iMatrix技術
大型語言模型
Transformers 支持多種語言

G
MCZK
195
2
Pivot 0.1 Evil A GGUF
PiVoT-0.1-Evil-a是基於Mistral 7B微調的韓英雙語模型,提供多種量化格式的GGUF文件,適用於不同硬件環境。
大型語言模型
Transformers 支持多種語言

P
TheBloke
280
28
GPT NeoX 1.3B Viet Final GGUF
基於31.3GB越南語數據預訓練的1.3B參數GPT-NeoX模型
大型語言模型 英語
G
afrideva
170
1
精選推薦AI模型
Llama 3 Typhoon V1.5x 8b Instruct
專為泰語設計的80億參數指令模型,性能媲美GPT-3.5-turbo,優化了應用場景、檢索增強生成、受限生成和推理任務
大型語言模型
Transformers 支持多種語言

L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-Tiny是一個基於SODA數據集訓練的超小型對話模型,專為邊緣設備推理設計,體積僅為Cosmo-3B模型的2%左右。
對話系統
Transformers 英語

C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
基於RoBERTa架構的中文抽取式問答模型,適用於從給定文本中提取答案的任務。
問答系統 中文
R
uer
2,694
98