AIbase
TW
模型選型
標籤
高效量化模型

# 高效量化模型

Gama 12b I1 GGUF
Gama-12B的量化版本，提供多種量化類型的文件，適用於文本生成任務，支持英語和葡萄牙語。
大型語言模型 Transformers 支持多種語言
G
mradermacher
559
1
Medra27b GGUF
Apache-2.0
Medra27B 量化模型是基於 nicoboss/Medra27B 基礎模型進行靜態量化的成果，適用於醫療相關領域的文本生成、摘要生成和診斷推理等任務。
大型語言模型 Transformers 支持多種語言
M
mradermacher
235
0
Sarvamai Sarvam M GGUF
Apache-2.0
這是Sarvam-m模型的量化版本，支持多種印度語言和英語的文本生成任務。
大型語言模型 支持多種語言
S
bartowski
845
1
Infly Inf O1 Pi0 GGUF
基於infly/inf-o1-pi0模型的量化版本，支持多語言文本生成任務，採用llama.cpp工具進行imatrix量化優化。
大型語言模型 支持多種語言
I
bartowski
301
1
Pythia 70m Wikipedia Paragraphs I1 GGUF
Apache-2.0
這是一個基於Pythia-70m模型的量化版本，專門針對Wikipedia段落數據進行優化，提供多種量化類型以適應不同資源需求。
大型語言模型 Transformers 英語
P
mradermacher
823
1
Speechless Llama3.2 V0.1 GGUF
Apache-2.0
基於Menlo/Speechless-llama3.2-v0.1的靜態量化版本，支持英語和越南語的多語言處理。
大型語言模型 支持多種語言
S
mradermacher
193
0
Jbaron34 SmolLM2 135M Bebop Reranker Gguf
一個輕量級的文本排序模型，適用於重新排序搜索結果或文檔
J
RichardErkhov
855
0
Aya 23 35B GGUF
aya-23-35B-GGUF量化版是基於CohereForAI/aya-23-35B的GGUF量化版本，支持23種語言的多語言文本生成任務。
大型語言模型 支持多種語言
A
legraphista
399
2
AIbase
智啟未來，您的人工智能解決方案智庫
English简体中文繁體中文にほんご
© 2025AIbase