# マルチレベル量子化

Valkyrie-49B-v1はllama.cppベースの49Bパラメータ大規模言語モデルで、様々な量子化バージョンを提供し、異なるハードウェア構成に対応します。

これはGemma 3 27Bモデルに基づく量子化バージョンで、ハッカーニュース（Hacker News）のコメント要約生成に特化しています。

OpenThinker2-32Bの量子化バージョンで、llama.cppを使用してimatrix量子化を行い、複数の量子化タイプをサポートし、テキスト生成タスクに適しています。

これはテキストランキングモデルで、テキストを再ランク付けおよびスコアリングし、検索結果の関連性を向上させるために使用されます。

OlympicCoder-7Bはコード生成に特化した7Bパラメータの大規模言語モデルで、open-r1/OlympicCoder-7Bをllama.cppで量子化したものです。複数の量子化レベルを選択可能です。

Stable Diffusion XLのGGUFフォーマット量子化バージョン、異なるハードウェア構成に適応するため複数の量子化レベルを提供。

これはcastorini/rank_zephyr_7b_v1_fullモデルのGGUF量子化バージョンで、テキストランキングタスクに適しています。

Meta LLaMA-3 70Bをベースにした命令微調整モデルで、量子化処理されており、ローカル展開と効率的な推論に適しています。