# 邊緣設備優化

Phi 2 GGUF
MIT
phi-2 是一個採用 IQ-DynamicGate 超低比特量化(1-2 比特)的文本生成模型,適用於自然語言處理和代碼生成任務。
大型語言模型 支持多種語言
P
Mungert
472
2
Orpheus 3b 0.1 Ft GGUF
Apache-2.0
基於Llama-3-8B架構優化的超低比特量化模型,採用IQ-DynamicGate技術實現1-2比特精度自適應量化,適用於內存受限環境。
大型語言模型 英語
O
Mungert
1,427
1
Olympiccoder 32B GGUF
Apache-2.0
OlympicCoder-32B是基於Qwen2.5-Coder-32B-Instruct的代碼生成模型,採用IQ-DynamicGate超低位量化技術,適用於內存受限環境下的高效推理。
大型語言模型 英語
O
Mungert
361
3
Bert Emotion
Apache-2.0
BERT-Emotion 是一款基於 bert-lite 和 NeuroBERT-Mini 的輕量級自然語言處理模型,專為邊緣和物聯網設備上的短文本情緒檢測而優化。
文本分類 Transformers
B
boltuix
369
13
EXAONE Deep 32B GGUF
其他
EXAONE-Deep-32B是一個32B參數的大語言模型,支持英語和韓語,專為文本生成任務設計。
大型語言模型 支持多種語言
E
Mungert
2,249
3
Llama 3.1 Nemotron Nano 8B V1 GGUF
其他
基於Llama-3架構的8B參數模型,採用IQ-DynamicGate超低比特量化技術優化內存使用
大型語言模型 英語
L
Mungert
2,088
4
EXAONE Deep 7.8B GGUF
其他
採用IQ-DynamicGate技術的超低位量化(1-2比特)的7.8B參數模型,支持英語和韓語文本生成任務。
大型語言模型 支持多種語言
E
Mungert
1,791
5
Mistral Small 3.1 24B Instruct 2503 GGUF
Apache-2.0
這是一個基於 Mistral-Small-3.1-24B-Base-2503 的指令微調模型,採用 GGUF 格式和 IQ-DynamicGate 超低比特量化技術。
大型語言模型 支持多種語言
M
Mungert
10.01k
7
Qwen2.5 7B Instruct 1M GGUF
Apache-2.0
Qwen2.5-7B-Instruct-1M是基於Qwen2.5-7B的指令微調版本,採用IQ-DynamicGate超低位量化技術(1-2比特),適用於內存受限環境下的高效推理。
大型語言模型 英語
Q
Mungert
1,342
4
Llama 3.1 8B Instruct GGUF
Llama-3.1-8B-Instruct 是基於 Llama-3-8B 的指令調優版本,採用 IQ-DynamicGate 技術進行超低位量化(1-2 比特),在保持內存效率的同時提升準確性。
大型語言模型 支持多種語言
L
Mungert
1,073
3
Mistral 7B Instruct V0.2 GGUF
Apache-2.0
Mistral-7B-Instruct-v0.2是基於Mistral-7B架構的指令微調模型,支持文本生成任務,採用IQ-DynamicGate超低比特量化技術優化內存效率。
大型語言模型
M
Mungert
742
2
Reasonablellama3 3B Jr
基於LLaMA-3B構建的微調推理模型,增強推理能力,支持多語言處理
大型語言模型 支持多種語言
R
adeelahmad
1,173
6
Tiny Agent A 3B
其他
微型代理-α是基於Qwen2.5-Coder系列模型訓練的輕量級AI代理,專為邊緣設備設計,支持Pythonic函數調用方式。
大型語言模型 支持多種語言
T
driaforall
207
13
Comment Moderation
Openrail
基於DistilBERT架構構建的多標籤內容審核系統,用於檢測和分類用戶評論中的潛在有害內容,具有高精度和輕量級特點。
文本分類 Transformers 英語
C
Vrandan
45.47k
1
Tiny Hinglish Chat 21M
MIT
一個微型印地英語混合對話文本補全模型,能夠用印地英語(Hinglish)進行日常生活話題的對話。
對話系統 Transformers 英語
T
Abhishekcr448
178
4
Moondream Prompt
Apache-2.0
Moondream2的微調版本,專為圖像提示生成優化,是一款輕量級視覺語言模型,適合在邊緣設備高效運行。
圖像生成文本 Transformers
M
gokaygokay
162
10
AIbase
智啟未來,您的人工智能解決方案智庫
© 2025AIbase