AIbase
TW
模型選型
標籤
本地推理優化

# 本地推理優化

Bielik 11B V2.6 Instruct GGUF
Apache-2.0
Bielik-11B-v2.6-Instruct 是一個波蘭語的大語言模型，由 SpeakLeash 和 ACK Cyfronet AGH 開發，基於 Bielik-11B-v2 微調而來，適用於指令跟隨任務。
大型語言模型 Transformers
B
speakleash
206
5
Bielik 1.5B V3.0 Instruct GGUF
Apache-2.0
這是一個波蘭語的1.5B參數指令微調模型，基於SpeakLeash的Bielik系列開發，適用於文本生成任務。
大型語言模型 其他
B
speakleash
341
3
Gemma 3 12b It Abliterated GGUF
這是從mlabonne/gemma-3-12b-it-abliterated轉換而來的GGUF格式模型，適用於本地運行的大語言模型應用。
大型語言模型 Transformers
G
matrixportal
354
0
Magnum V4 72b GGUF
Apache-2.0
馬格南V4 72B是基於Qwen打造的模型系列中的一員，旨在復刻Claude 3系列模型的散文質量，適用於本地AI聊天應用。
大型語言模型 Transformers 英語
M
backyardai
159
1
Mistral 7B Instruct V0.3 GGUF
Apache-2.0
Mistral-7B-Instruct-v0.3的GGUF量化版本，適用於本地推理的文本生成模型
大型語言模型
M
MaziyarPanahi
253.99k
93
AIbase
智啟未來，您的人工智能解決方案智庫
English简体中文繁體中文にほんご
© 2025AIbase