# 量子化最適化

慧慧AI量子化モデルはMagistral-Small-2506-abliteratedの量子化バージョンで、知識を誰もが利用できるようにすることに取り組んでいます。

Gemma 2.9Bの量子化バージョンで、llama.cppを使用して最適化されており、LM Studioでの実行に適しています。

Illustrious-XL-v2.0 はテキストから画像を生成する基礎モデルで、様々な画像生成タスクに適しています。

Gemma 3 12B ITはGoogleが開発した大規模言語モデルで、マルチモーダル入力と長いコンテキスト処理をサポートしています。

Meta-Llama-3.1-8B-Instructの弾性最適化バージョンで、異なる速度と精度のモデルバリアントを提供し、自己展開シナリオに適しています。

研究型人工知能の質問回答に特化したQAモデルで、Q4_K_M量子化フォーマットを採用し、高品質な応答を維持しながら効率的な推論を実現。

LLaVAはオープンソースのマルチモーダルチャットボットで、マルチモーダル指示追従データでLLMをファインチューニングして訓練されています。このバージョンはGGUF量子化バージョンで、複数の量子化オプションを提供します。

これはmultilingual-e5-smallの量子化バージョンで、層ごとの量子化により推論性能を最適化し、同時に元のモデルの大部分の品質を維持しています。