# 量子化軽量版
Moonshotai.kimi K2 Instruct GGUF
Kimi - K2 - Instructは、moonshotai/Kimi - K2 - Instructモデルに基づく量子化バージョンであり、知識をより広く大衆に普及させることを目的としています。
大規模言語モデル
M
DevQuasar
3,574
1
Gemma 3 4b It Q4 K M GGUF
Gemma 3.4B IT は Google が開発したオープンソースの大規模言語モデルで、このバージョンは llama.cpp を使用して GGUF 形式に変換された 4-bit 量子化版です。
大規模言語モデル
G
DravenBlack
186
1
Llama 2 7b Chat Hf Q4 K M GGUF
MetaがリリースしたLlama 2シリーズ7BパラメータチャットモデルのGGUF量子化バージョン、ローカル展開と推論に適しています
大規模言語モデル English
L
matrixportal
220
4
Apollo2 7B Imat GGUF
Apache-2.0
Apollo2-7Bは多言語対応の医療用大規模言語モデルで、生物学と医学分野のQAタスクに特化しています。
大規模言語モデル Supports Multiple Languages
A
cgus
225
2
Featured Recommended AI Models
Qwen2.5 VL 7B Abliterated Caption It I1 GGUF
Apache-2.0
Qwen2.5-VL-7B-Abliterated-Caption-itの量子化バージョンで、多言語画像記述タスクをサポートします。
画像生成テキスト
Transformers Supports Multiple Languages

Q
mradermacher
167
1
Nunchaku Flux.1 Dev Colossus
Other
Colossus Project FluxのNunchaku量子化バージョンで、テキストプロンプトに基づいて高品質な画像を生成することを目的としています。このモデルは、推論効率を最適化しながら、性能損失を最小限に抑えます。
画像生成 English
N
nunchaku-tech
235
3
Qwen2.5 VL 7B Abliterated Caption It GGUF
Apache-2.0
これはQwen2.5-VL-7Bモデルに基づく静的量子化バージョンで、画像記述生成タスクに特化し、複数の言語をサポートしています。
画像生成テキスト
Transformers Supports Multiple Languages

Q
mradermacher
133
1
Olmocr 7B 0725 FP8
Apache-2.0
olmOCR-7B-0725-FP8は、Qwen2.5-VL-7B-Instructモデルをベースに、olmOCR-mix-0225データセットで微調整した後、FP8バージョンに量子化した文書OCRモデルです。
画像生成テキスト
Transformers English

O
allenai
881
3
Lucy 128k GGUF
Apache-2.0
Lucy-128kはQwen3 - 1.7Bをベースに開発された、プロキシ型ネットワーク検索と軽量ブラウジングに特化したモデルで、モバイルデバイスでも効率的に動作します。
大規模言語モデル
Transformers English

L
Mungert
263
2