# 多段階量子化

NVIDIA OpenReasoning - Nemotron - 32Bの量子化バージョンで、llama.cppを通じて量子化処理を行い、モデルの保存と計算リソースの要件を削減し、デプロイを容易にします。

これはNVIDIAのOpenReasoning-Nemotron-14Bモデルの量子化バージョンで、さまざまなハードウェアでのモデルの実行効率と性能を向上させることを目的としています。

llama.cppに基づく70Bパラメータの大規模言語モデルの量子化バージョンで、さまざまな量子化オプションを提供して異なるハードウェア条件に対応します。

これはmeta-llama/Llama-Guard-3-8BをLlama.cpp imatrix量子化したプロジェクトで、さまざまな量子化タイプのファイルを提供し、ユーザーが自身のニーズに応じて選択して使用できるようになっています。