# 高効率量子化推論

これはGrypheのCodex-24B-Small-3.2モデルの量子化バージョンで、量子化技術によりさまざまなハードウェア条件下での実行効率が最適化されています。

Blitzar-Coder-4B-F.1は、Qwen3-4Bをベースに微調整された、10種類以上のプログラミング言語をサポートする高効率の多言語コーディングモデルです。優れたコード生成、デバッグ、推論能力を備えています。

このプロジェクトは、llava-1.5-13b-hfモデルの重み/行列量子化バージョンを提供し、さまざまな量子化タイプが選択可能で、異なるシナリオでの使用ニーズに対応します。

これはNTQAI/Nxcode-CQ-7B-orpoモデルのLlama.cpp imatrix量子化バージョンで、さまざまな量子化タイプのファイルを提供し、さまざまなシナリオのニーズに対応しています。