AIbase
TW
模型選型
標籤
量化推理

# 量化推理

Chengsenwang ChatTime 1 7B Chat GGUF
Apache-2.0
ChatTime-1-7B-Chat是一個專注於時間序列預測的多模態基礎模型，基於7B參數規模構建。
多模態融合
C
tensorblock
153
0
Llama 3.2 1B Instruct GGUF
Llama-3.2-1B-Instruct 是一個基於 Llama 架構的 1B 參數量的指令微調模型，提供多種量化格式以適應不同硬件需求。
大型語言模型 支持多種語言
L
Mungert
708
3
Mxbai Rerank Large V2 GGUF
Apache-2.0
mxbai-rerank-large-v2是一個多語言文本重排序模型，支持多種語言和多種量化格式，適用於不同硬件環境。
文本嵌入 支持多種語言
M
Mungert
2,209
2
Gemma 3 4b Novision
Gemma-3-4b純文本模型是基於google/gemma-3-4b-it轉換而來的純文本版本，移除了視覺組件，專注於文本生成任務。
大型語言模型 Transformers
G
gghfez
40.57k
2
Gemmax2 28 2B 4bit
Apache-2.0
GemmaX2-28-2B GGUF量化模型是小米開發的GemmaX2-28-2B-v0.1翻譯大語言模型的量化版本集合，支持28種語言的機器翻譯任務。
機器翻譯 Transformers 支持多種語言
G
Tonic
19
1
Whisperkit Pro
其他
WhisperKit Pro 是 WhisperKit 的商業版本，專注於自動語音識別（ASR）任務，支持量化技術，適用於高效語音處理。
語音識別
W
argmaxinc
1,862
14
Chinese Llama 2 7b Gguf
Apache-2.0
適配llama.cpp的中文LLaMA-2-7B模型的GGUF-v3版本文件
大型語言模型 Transformers 支持多種語言
C
hfl
254
5
AIbase
智啟未來，您的人工智能解決方案智庫
English简体中文繁體中文にほんご
© 2025AIbase