AIbase
TW
模型選型
標籤
邊緣部署

# 邊緣部署

Qwen3 8b 192k Context 6X Josiefied Uncensored MLX AWQ 4bit
Apache-2.0
Qwen3-8B的4位AWQ量化版本，專為MLX庫優化，支持19.2萬詞元長上下文處理，適用於邊緣設備部署。
大型語言模型
Q
Goraint
204
1
Phi 4 Mini Reasoning
MIT
Phi-4-mini-reasoning 是一個輕量級的開源模型，專注於數學推理任務，支持128K令牌的上下文長度。
大型語言模型 Transformers
P
unsloth
591
2
Phi 4 Mini Reasoning
MIT
Phi-4-mini-reasoning是一個輕量級的開源模型，專注於高質量、密集推理的數據，並進一步微調以獲得更高級的數學推理能力。
大型語言模型 Transformers 支持多種語言
P
microsoft
18.93k
152
Gemmax2 28 2B Gguf
Apache-2.0
GemmaX2-28-2B GGUF量化模型是基於GemmaX2-28-2B-v0.1的一系列量化變體，專為多語言機器翻譯設計，支持28種語言。
機器翻譯 支持多種語言
G
Tonic
258
5
Gemmax2 28 2B 4bit
Apache-2.0
GemmaX2-28-2B GGUF量化模型是小米開發的GemmaX2-28-2B-v0.1翻譯大語言模型的量化版本集合，支持28種語言的機器翻譯任務。
機器翻譯 Transformers 支持多種語言
G
Tonic
19
1
AIbase
智啟未來，您的人工智能解決方案智庫
English简体中文繁體中文にほんご
© 2025AIbase