Openbuddy OpenBuddy R1 0528 Distill Qwen3 32B Preview0 QAT GGUF
Apache-2.0
這是OpenBuddy-R1-0528-Distill-Qwen3-32B-Preview0-QAT的量化版本,藉助量化技術可以在不同硬件條件下更高效地運行模型。
大型語言模型 支持多種語言
O
bartowski
720
1
Fastwebmiia 7B
其他
FastwebMIIA是由Fastweb開發的70億參數意大利人工智能模型,專為意大利語和英語設計,支持長文檔處理。
大型語言模型
Transformers

F
Fastweb
124
2
Qwen3 4B Llamafile
Apache-2.0
Qwen3-4B是Qwen系列最新一代的大語言模型,具有4B參數規模,支持128k上下文窗口和100多種語言,在推理、指令遵循和代理能力方面表現優異。
大型語言模型
Q
Mozilla
995
2
Qwen3 1.7B Q8 0 GGUF
Apache-2.0
Qwen3-1.7B-Q8_0-GGUF是基於Qwen/Qwen3-1.7B轉換的GGUF格式模型,支持文本生成任務,具備多語言支持和高效的推理能力。
大型語言模型
Q
Triangle104
277
1
HMS Slerp 12B V2
這是一個通過SLERP方法融合的12B參數規模的多語言大語言模型,支持英文和日文處理。
大型語言模型
Transformers 支持多種語言

H
yamatazen
16
2
Jungzoona T3Q Qwen2.5 14b V1.0 E3 GGUF
Apache-2.0
本倉庫包含JungZoona/T3Q-qwen2.5-14b-v1.0-e3的GGUF格式模型文件,由TensorBlock提供的機器進行量化,兼容llama.cpp。
大型語言模型
Transformers 支持多種語言

J
tensorblock
557
1
Minicpm S 1B Sft
Apache-2.0
MiniCPM-S-1B-sft 是一個基於激活稀疏化技術優化的1B參數規模語言模型,通過ProSparse方法實現高稀疏性推理加速,同時保持與原始模型相當的性能。
大型語言模型
Transformers 支持多種語言

M
openbmb
169
10
Qwen2.5 1.5B Instruct GGUF
Apache-2.0
Qwen2.5是Qwen大語言模型的最新系列,1.5B參數規模的指令調優模型,支持多語言和長文本生成。
大型語言模型 英語
Q
Mungert
556
4
Kyro N1.1 7B Pytorch
其他
Kyro-n1.1是Kyro-n1的增強版本,基於Qwen2.5-7B-Instruct構建,優化了推理能力、理解能力和響應精準度。
大型語言模型
Transformers 支持多種語言

K
open-neo
41
2
Llama 3.1 8B Instruct GGUF
Meta Llama 3.1系列是多語言大語言模型(LLMs)的集合,包括8B、70B和405B大小的預訓練和指令調優生成模型。8B版本針對多語言對話用例進行了優化,在常見基準測試中表現優異。
大型語言模型 支持多種語言
L
unsloth
4,071
6
Elastic Qwen2.5 7B Instruct
Apache-2.0
彈性模型是由TheStage AI ANNA生成的模型系列,通過滑動控制條可自由調節模型規模、延遲與質量,為自託管場景提供最快最靈活的解決方案。
大型語言模型 支持多種語言
E
TheStageAI
30
2
HMS Slerp 12B
HMS-Slerp-12B 是一個採用SLERP球面線性插值法合併的多語言聊天模型,支持英語和日語。
大型語言模型
Transformers 支持多種語言

H
yamatazen
41
2
Elvenmaid 12B Stock
基於ElvenMaid-12B系列模型合併的ChatML格式語言模型,支持英文和日文
大型語言模型
Transformers 支持多種語言

E
yamatazen
35
2
Phi 4 Mini Instruct Float8dq
MIT
Phi-4-mini-instruct模型經torchao進行float8動態激活和權重量化,在H100上實現36%顯存降低和15-20%速度提升,幾乎不影響精度。
大型語言模型
Transformers 其他

P
pytorch
1,006
1
Elvenmaid 12B
ElvenMaid-12B 是一個基於 ChatML 格式的 12B 參數語言模型,通過 mergekit 工具合併多個預訓練模型而成,支持英文和日文交互。
大型語言模型
Transformers 支持多種語言

E
yamatazen
38
2
Himeyuri Magnum 12B
Himeyuri-Magnum-12B 是一個基於 ChatML 格式的多語言預訓練語言模型,通過 mergekit 工具合併多個 12B 參數規模的模型而成。
大型語言模型
Transformers 支持多種語言

H
yamatazen
22
2
Fibonacci 2 14B
MIT
基於Phi 4架構的大型語言模型,擁有140億參數,針對自然語言處理和文本對話任務進行了優化。
大型語言模型 支持多種語言
F
fibonacciai
97
13
Trillion 7B Preview AWQ
Apache-2.0
Trillion-7B預覽版是一款多語言大語言模型,支持英語、韓語、日語和中文,在計算效率和性能表現上優於同類7B規模模型。
大型語言模型 支持多種語言
T
trillionlabs
22
4
Trillion 7B Preview
Apache-2.0
Trillion-7B預覽版是一款多語言大型語言模型,支持英語、韓語、日語和中文,在保持較低計算量的同時實現了與更高計算量模型競爭的性能。
大型語言模型
Transformers 支持多種語言

T
trillionlabs
6,864
82
Etherealaurora 12B V2
基於ChatML架構的對話模型,通過mergekit工具合併預訓練語言模型生成
大型語言模型
Transformers 支持多種語言

E
yamatazen
859
16
Kyro N1.1 7B
其他
Kyro-n1.1是Kyro-n1的增強版本,基於Qwen2.5-7B-Instruct構建,優化了推理能力、理解力和響應精準度。
大型語言模型
Transformers 支持多種語言

K
open-neo
470
4
Bloomvn 8B Chat Reasoning
MIT
專為越南語推理優化的多語言微調模型,具備分步推理能力,採用結構化XML格式
大型語言模型
Transformers 支持多種語言

B
BlossomsAI
68
2
Aurora SCE 12B
基於SCE方法合併的多語言ChatML模型,支持英文和日文對話
大型語言模型
Transformers 支持多種語言

A
yamatazen
51
6
Fibonacci 1 EN 8b Chat.p1 5
MIT
Fibonacci-1-EN-8b-Chat.P1_5是基於LLaMA架構的大型語言模型,具有80.3億參數,針對自然語言處理任務和文本對話進行了優化。
大型語言模型 支持多種語言
F
fibonacciai
132
11
Ozone Ai 0x Lite GGUF
Apache-2.0
基於ozone-ai/0x-lite模型的量化版本,支持中英文文本生成任務,採用llama.cpp進行imatrix量化,提供多種量化選項以適應不同硬件需求。
大型語言模型 支持多種語言
O
bartowski
220
2
Llama 3.3 70B Instruct Quantized.w8a8
這是Llama-3.3-70B-Instruct的量化版本模型,支持多語言文本生成,可用於商業和研究場景,在多個基準測試中表現出色。
大型語言模型
Safetensors 支持多種語言
L
RedHatAI
19.02k
7
Razorback 12B V0.2
其他
Razorback 12B v0.2 是一個結合了Pixtral 12B和UnslopNemo v3優勢的多模態模型,具備視覺理解和語言處理能力。
圖像生成文本
Transformers 支持多種語言

R
nintwentydo
17
3
Openbuddy Deepseek 10b V17.1 4k GGUF
其他
OpenBuddy/openbuddy-deepseek-10b-v17.1-4k的GGUF格式模型文件,支持多種語言,適用於文本生成任務。
大型語言模型 支持多種語言
O
tensorblock
81
1
Meta Llama 3.3 70B Instruct AWQ INT4
Llama 3.3 70B Instruct AWQ INT4 是 Meta Llama 3.3 70B Instruct 模型的 4 位量化版本,適用於多語言對話用例,優化了文本生成任務。
大型語言模型
Transformers 支持多種語言

M
ibnzterrell
6,410
22
Llama 3.2 3B Instruct QLORA INT4 EO8
Llama 3.2是Meta推出的多語言大語言模型,提供1B和3B兩種參數規模,支持多種語言任務,性能優於現有開源和閉源模型。
大型語言模型
PyTorch 支持多種語言
L
meta-llama
289
68
Glm 4 9b Chat Hf
其他
GLM-4-9B是智譜AI推出的GLM-4系列最新一代預訓練模型的開源版本,具備卓越的語義、數學、推理、代碼和知識能力。
大型語言模型
Transformers 支持多種語言

G
THUDM
7,919
13
Qwen2.5 32B AGI
Apache-2.0
首個Qwen2.5 32B微調版本,旨在修復其過度審查炎症問題,支持多語言交互。
大型語言模型
Transformers 支持多種語言

Q
AiCloser
163
87
Vapor V2 7B
Apache-2.0
基於Qwen/Qwen2.5-7B模型在多語言數據集上微調的大語言模型,支持13種語言處理
大型語言模型
Transformers

V
FourOhFour
60
4
Llama VARCO 8B Instruct
Llama-VARCO-8B-Instruct是一個基於Llama構建的生成式模型,通過額外的訓練,在韓語處理方面表現出色,同時保持英語能力。
大型語言模型
Transformers 支持多種語言

L
NCSOFT
2,981
74
Llama 3.1 8B Instruct GGUF
Meta Llama 3.1 8B Instruct 是一個多語言大語言模型,針對多語言對話用例進行了優化,在常見的行業基準測試中表現優異。
大型語言模型 英語
L
modularai
9.7M
4
Internlm2 5 20b Chat Abliterated
Apache-2.0
這是一個基於internlm2_5-20b-chat模型進行消融處理的版本,使用CPU進行消融處理的新方法。
大型語言模型
Transformers 支持多種語言

I
byroneverson
16
4
Magnum V2 72b
其他
該模型是基於Qwen-2 72B Instruct微調的大語言模型,旨在複製Claude 3系列模型的散文質量,是系列模型中的第七個版本。
大型語言模型
Safetensors 支持多種語言
M
anthracite-org
302
39
Meta Llama 3.1 8B Instruct GPTQ INT4
這是Meta-Llama-3.1-8B-Instruct模型的INT4量化版本,使用GPTQ算法進行量化,適用於多語言對話場景。
大型語言模型
Transformers 支持多種語言

M
hugging-quants
128.18k
25
Meta Llama 3.1 8B Instruct GGUF
Meta Llama 3.1 8B 指令調優模型的 GGUF 量化版本,適用於多語言對話場景
大型語言模型 支持多種語言
M
MaziyarPanahi
499.87k
19
Meta Llama 3.1 70B Instruct AWQ INT4
Llama 3.1 70B Instruct的INT4量化版本,基於AutoAWQ技術優化,適用於多語言對話場景。
大型語言模型
Transformers 支持多種語言

M
hugging-quants
80.59k
100
- 1
- 2
精選推薦AI模型
Llama 3 Typhoon V1.5x 8b Instruct
專為泰語設計的80億參數指令模型,性能媲美GPT-3.5-turbo,優化了應用場景、檢索增強生成、受限生成和推理任務
大型語言模型
Transformers 支持多種語言

L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-Tiny是一個基於SODA數據集訓練的超小型對話模型,專為邊緣設備推理設計,體積僅為Cosmo-3B模型的2%左右。
對話系統
Transformers 英語

C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
基於RoBERTa架構的中文抽取式問答模型,適用於從給定文本中提取答案的任務。
問答系統 中文
R
uer
2,694
98