AIbase
TW
模型選型
標籤
本地部署優化

# 本地部署優化

Voicelab Trurl 2 13b GGUF
trurl-2-13b是一個13B參數規模的大語言模型，提供GGUF格式的量化版本，適用於多種自然語言處理任務。
大型語言模型 支持多種語言
V
tensorblock
190
1
Bielik 4.5B V3.0 Instruct GGUF
Apache-2.0
Bielik-4.5B-v3.0-Instruct-GGUF 是 SpeakLeash 發佈的波蘭語大語言模型，基於 Bielik-4.5B-v3.0-Instruct 轉換的 GGUF 量化格式，適用於本地推理。
大型語言模型 其他
B
speakleash
693
4
Foundation Sec 8B
Apache-2.0
Foundation-Sec-8B是一個專為網絡安全設計的80億參數基礎語言模型，基於Llama-3.1-8B擴展，適用於威脅檢測、漏洞評估等安全場景。
大型語言模型 Transformers 英語
F
fdtn-ai
25.24k
168
Huihui Ai Gemma 3 1b It Abliterated GGUF
這是Google Gemma 3B模型的量化版本，基於llama.cpp進行優化，適合在資源有限的環境中運行。
大型語言模型
H
bartowski
3,123
3
Deepseek R1 GGUF
MIT
DeepSeek-R1是由Unsloth優化的1.58-bit動態量化大語言模型，採用MoE架構，支持英語任務處理
大型語言模型 英語
D
unsloth
2.0M
1,045
E5 Base V2 Gguf
MIT
e5-base-v2嵌入模型的GGUF格式文件，用於句子相似度計算等任務，支持最大512個標記的上下文。
文本嵌入 英語
E
ChristianAzinn
168
2
Polka 1.1b Chat
MIT
首個專為本地運行設計的波蘭語對話助手模型，基於TinyLlama-1.1B擴展波蘭語分詞器並進行預訓練和DPO優化
大型語言模型 Transformers 其他
P
eryk-mazus
91
19
Vistral 7B Chat Gguf
Vistral-7B-Chat是一個專注于越南語的大語言模型，基於Mistral架構，提供高質量的越南語文本生成能力。
大型語言模型 其他
V
uonlp
861
15
GPT NeoX 1.3B Viet Final GGUF
基於31.3GB越南語數據預訓練的1.3B參數GPT-NeoX模型
大型語言模型 英語
G
afrideva
170
1
AIbase
智啟未來，您的人工智能解決方案智庫
English简体中文繁體中文にほんご
© 2025AIbase