AIbase
ZH
模型选型
标签
本地推理优化

# 本地推理优化

Bielik 11B V2.6 Instruct GGUF
Apache-2.0
Bielik-11B-v2.6-Instruct 是一个波兰语的大语言模型，由 SpeakLeash 和 ACK Cyfronet AGH 开发，基于 Bielik-11B-v2 微调而来，适用于指令跟随任务。
大型语言模型 Transformers
B
speakleash
206
5
Bielik 1.5B V3.0 Instruct GGUF
Apache-2.0
这是一个波兰语的1.5B参数指令微调模型，基于SpeakLeash的Bielik系列开发，适用于文本生成任务。
大型语言模型 其他
B
speakleash
341
3
Gemma 3 12b It Abliterated GGUF
这是从mlabonne/gemma-3-12b-it-abliterated转换而来的GGUF格式模型，适用于本地运行的大语言模型应用。
大型语言模型 Transformers
G
matrixportal
354
0
Magnum V4 72b GGUF
Apache-2.0
马格南V4 72B是基于Qwen打造的模型系列中的一员，旨在复刻Claude 3系列模型的散文质量，适用于本地AI聊天应用。
大型语言模型 Transformers 英语
M
backyardai
159
1
Mistral 7B Instruct V0.3 GGUF
Apache-2.0
Mistral-7B-Instruct-v0.3的GGUF量化版本，适用于本地推理的文本生成模型
大型语言模型
M
MaziyarPanahi
253.99k
93
AIbase
智启未来，您的人工智能解决方案智库
English简体中文繁體中文にほんご
© 2025AIbase