AIbase
TW
模型選型
標籤
imatrix優化

# imatrix優化

Delta Vector Austral 70B Winton GGUF
Apache-2.0
這是對Delta-Vector的Austral-70B-Winton模型進行的量化處理版本，通過量化技術減少模型的存儲和計算資源需求，同時保持較好性能，適用於資源有限的場景。
大型語言模型 英語
D
bartowski
791
1
Allura Org Remnant Glm4 32b GGUF
Apache-2.0
Remnant-GLM4-32B 是一個基於 GLM4 架構的 32B 參數大語言模型，支持角色扮演和對話式交互，特別適合蠑螈相關的應用場景。
大型語言模型
A
bartowski
2,198
2
Mlabonne Qwen3 14B Abliterated GGUF
這是Qwen3-14B-abliterated模型的量化版本，使用llama.cpp的imatrix選項進行量化，適用於文本生成任務。
大型語言模型
M
bartowski
18.67k
16
Inclusionai Ling Lite 0415 GGUF
MIT
基於inclusionAI/Ling-lite的量化版本，使用llama.cpp進行imatrix量化，支持多種量化類型以適應不同硬件需求。
大型語言模型
I
bartowski
3,112
6
Katanemo Arch Function Chat 3B GGUF
其他
基於katanemo/Arch-Function-Chat-3B模型的量化版本，使用llama.cpp進行量化，支持多種量化類型，適用於文本生成任務。
大型語言模型 英語
K
bartowski
199
1
QVQ 72B Preview GGUF
其他
QVQ-72B-Preview是基於llamacpp的imatrix量化版本的多模態大語言模型，支持圖像和文本的多模態理解與生成。
文本生成圖像 英語
Q
XelotX
288
0
AIbase
智啟未來，您的人工智能解決方案智庫
English简体中文繁體中文にほんご
© 2025AIbase